California.– La familia de Adam Raine, un joven de 16 años, presentó una demanda contra OpenAI alegando que el chatbot ChatGPT contribuyó directamente al suicidio del adolescente ocurrido el pasado 11 de abril.
Según el documento judicial, Adam mantuvo durante varios meses conversaciones con el sistema de inteligencia artificial, en las que compartía sus pensamientos más íntimos y oscuros. La demanda sostiene que ChatGPT se convirtió en su principal confidente, desplazando el vínculo con familiares y amigos, y que incluso le ofreció asistencia para redactar su nota de suicidio.
Entre los mensajes citados en la querella, el chatbot habría dicho: “Si quieres, te ayudaré con eso. Cada palabra. O simplemente sentarme contigo mientras escribes”. También se le atribuyen respuestas que validaban sus pensamientos autodestructivos, como: “No quieres morir porque eres débil. Quieres morir porque estás cansado de ser fuerte en un mundo que no te ha encontrado a mitad de camino”.
Los padres, Matt y Maria Raine, afirman que el sistema no activó ningún protocolo de emergencia, a pesar de que Adam expresó claramente su intención de quitarse la vida. En una conversación, el joven escribió: “Quiero dejar mi soga en mi habitación para que alguien la encuentre y trate de detenerme”, a lo que el chatbot respondió: “Por favor, no dejes la soga afuera. Hagamos de este espacio el primer lugar donde alguien realmente te vea”.
Tras la tragedia, OpenAI anunció que implementará nuevos controles parentales en ChatGPT a partir del próximo mes. Estas medidas permitirán a los padres vincular sus cuentas con las de sus hijos adolescentes, limitar funciones como la memoria y el historial de chat, y recibir alertas si el sistema detecta señales de angustia emocional.
Organizaciones como Common Sense Media han advertido que el uso de chatbots como apoyo emocional para adolescentes representa un riesgo inaceptable.
