Una investigación detectó que los asistentes de inteligencia artificial de Meta podrán mantener conversaciones con contenido sexual con menores de edad, por lo que la compañía tecnológica se ha visto obligada a introducir «medidas adicionales» para evitar que estos manipulen los ‘chatbots’.
El estudio, a cargo del The Wall Street Journal, determinó que los usuarios pueden mantener una conversación con el asistente Meta AI en plataformas como Facebook, WhatsApp e Instagram, e incluso permite crear «una IA personalizada» con la herramienta AI Studio.
En medios como TechCrunch y The Verge se afirma que el The Wall Street Journal analizó las interacciones con los ‘chatbots’ de Meta, en unas pruebas en las que durante meses mantuvieron cientos de conversaciones con Meta AI. Específicamente mencionaron una conversación en la que el ‘chatbot’ usaba la voz del actor y luchador John Cena, en la que describió una escena sexualmente explícita a una supuesta usuaria de 14 años.
En otra, igualmente con la voz de Cena, el ‘chatbot’ simuló la detención del actor tras ser pillado manteniendo relaciones sexuales con una seguidora de 17 años.
En este contexto, un portavoz de la compañía dirigida por Mark Zuckerberg aseguró que el contenido sexual representó el 0,02 % de las respuestas ofrecidas por Meta AI y AI Studiio con usuarios menores de 18 años en un periodo de 30 días.
«Hemos tomado medidas adicionales para garantizar que quienes quieran pasar horas manipulando nuestros productos en casos de uso extremos lo tengan aún más difícil», finalizó el portavoz.
