Meta evitará que los menores mantengan conversaciones sobre temas relacionados con autolesiones, suicidio o trastornos alimenticios, o incluso conversaciones románticas dentro de sus chatbots impulsados por inteligencia artificial (IA).
La portavoz de la compañía, Stephanie Otway, explicó a TechCrunch que la tecnológica ha ido aprendiendo sobre «cómo los jóvenes pueden interactuar con estas herramientas» y refuerzan sus protecciones «en consecuencia».
Por tanto, la compañía dirigida por Mark Zuckerberg añadirá medidas de seguridad adicionales para evitar tratar los temas mencionados con menores, tras actualizar el entrenamiento a sus modelos de IA para que «no interactúen con adolescentes sobre estos temas, sino que los guíen hacia recursos especializados».
La portavoz de Meta también señaló que, a fin de garantizar que los adolescentes tengan experiencias «apropiadas para su edad con la IA», limitarán el acceso a ciertos ‘chatbots’ de IA. En concreto, aclaró que evitará que menores o adolescentes interactúen con ‘chatbots’ disponibles en Instagram o Facebook que incluyen personajes sexualizados, como es el caso de «Madrastra» o «Chica rusa».
En consecuencia, los usuarios menores de 18 años solo podrán interactuar con ‘chatbots’ de IA que promuevan la educación y la creatividad, aclara Otway en conversación con el citado medio.
Finalmente, Meta sostuvo que planea endurecer sus políticas de seguridad de IA en el futuro, mediante actualizaciones más robustas y duraderas, con el objetivo de priorizar la seguridad de los menores y adolescentes con la IA.
