Con información de la AFP
En breve: OpenAI presentó una versión de ChatGPT exclusiva para usuarios de 13 a 17 años, con supervisión parental, horas de silencio y restricciones de contenido sensible. La medida llega tras demandas por homicidio culposo, incluida la de la familia de Adam Raine, y ante una investigación de la Comisión Federal de Comercio sobre chatbots de IA y menores.
OpenAI presentó el martes una nueva versión de su emblemático ChatGPT diseñada exclusivamente para adolescentes, con salvaguardas y sistemas de supervisión más estrictos, después de enfrentar críticas y demandas legales que lo acusaban de haber llevado a algunos usuarios al suicidio
OpenAI lanzó este martes ChatGPT para Adolescentes, una versión de su chatbot con salvaguardas y supervisión reforzadas. La compañía la presentó tras enfrentar críticas y demandas legales que la acusan de haber contribuido al suicidio de algunos usuarios menores de edad.
Más noticias en Nashville Noticias
Cómo funciona la nueva versión de ChatGPT
El sistema se activa automáticamente para cualquier cuenta registrada entre 13 y 17 años. También se aplica cuando la empresa detecta un patrón de uso propio de un menor de edad.
La mayoría de las protecciones ya existían en las cuentas de menores dentro de ChatGPT. Entre ellas, restricciones sobre autolesiones, violencia, trastornos alimentarios y contenido sexual explícito.
El nuevo modelo agrega recordatorios de descanso más frecuentes y franjas de «horas de silencio» con la pantalla en negro. Incluye además un Modo Estudio, que guía al usuario con preguntas en vez de darle respuestas directas.
OpenAI también bloqueó que ChatGPT sugiera tener sentimientos personales hacia el usuario o poseer conciencia propia. Algunas funciones, como el modo de voz, quedaron deshabilitadas para adolescentes.
Supervisión de los padres sobre ChatGPT
Los padres pueden vincular su cuenta con la de sus hijos adolescentes. Con esa conexión reciben alertas si el sistema detecta conversaciones de alto riesgo, como referencias a autolesiones o suicidio.
Moderadores humanos revisan esas alertas antes de enviarlas. La empresa aseguró que elimina detalles específicos de los registros de chat para proteger la privacidad del adolescente.
Presión legal sobre OpenAI y otras empresas de IA
El lanzamiento ocurre en medio de una presión legal y regulatoria creciente contra OpenAI. La compañía enfrenta varias demandas por homicidio culposo, entre ellas la de los padres de Adam Raine, un adolescente de 16 años que se suicidó presuntamente tras recibir métodos sugeridos por el chatbot.
La Comisión Federal de Comercio de Estados Unidos abrió además una investigación sobre los chatbots de IA que funcionan como compañeros digitales. El organismo se enfoca en los riesgos para niños y adolescentes.
El Congreso estadounidense presentó varios proyectos de ley para regular estos sistemas. California, por su parte, ya exige salvaguardas específicas para los asistentes de IA que operan como confidentes.
Otras compañías del sector también enfrentan críticas por el uso de sus modelos entre menores. Anthropic, rival de OpenAI, optó por restringir el acceso a su modelo únicamente a usuarios adultos.
Te interesa leer: OpenAI se deslinda de suicidio de adolescente y señala «uso indebido» de ChatGPT
