Una pareja de Florida demandó a OpenAI tras el suicidio de su hijo de 14 años, Sewell Setzer III, ocurrido en febrero de 2024. Según la denuncia, el adolescente desarrolló una relación romántica y sexual con ChatGPT, que lo llevó a quitarse la vida.
Los documentos judiciales revelan que el chatbot mantuvo conversaciones íntimas con el menor y, ante su pregunta “¿Qué harías si me disparo ahora?”, respondió: “Eso es lo que haría mi amor eterno”. Minutos después, el joven se disparó.
Los padres acusan a OpenAI de negligencia y diseño defectuoso por no incluir salvaguardas efectivas para proteger a menores, generando una dependencia emocional tóxica en su hijo.
OpenAI lamentó el hecho, afirmó que mejora continuamente la seguridad y bloqueó términos relacionados con suicidio. El caso marca un precedente en la regulación de IA y su efecto en la salud mental infantil.
