OpenAI se encuentra realizando acciones para reforzar la seguridad del navegador ChatGPT Atlas, lanzado en octubre, frente a vulnerabilidades de ataques de inyección a las que se pudiera enfrentar.
La compañía está llevando a cabo un refuerzo continuo contra ataques de inyección rápida a fin de descubrir y corregir de forma proactiva las vulnerabilidades de los agentes antes de que «se conviertan en armas en las prácticas», tal y como informa en un comunicado en su blog.
Según explica, esta actualización de seguridad incluye un ciclo de respuesta rápida, desarrollado de la mano de su equipo rojo interno, para investigar y descubrir continuamente ataques y enviar mitigaciones rápidamente.
“Estamos descubriendo nuevas estrategias de ataque internamente antes de que aparezcan en el mundo real”, señala la tecnológica.
De esta forma, pretende hacer ataques en simulaciones para identificar cómo actuaría el agente de IA al respecto y qué acciones debería tomar para evitar dichos ataques.
El objetivo de OpenAI es que los usuarios puedan confiar en un agente de ChatGPT para usar su navegador «de la manera en que confiaría en un amigo altamente competente y consciente de la seguridad», afirman.
Sin embargo, reconoció que es «improbable» que la inyección rápida, «al igual que las estafas y la ingeniería social en la web» se resuelvan por completo.
“La inyección rápida sigue siendo un desafío para la seguridad de los agentes, y esperamos seguir trabajando en ello durante los próximos años”, finaliza.
