OpenAI anunció una oferta de empleo para contratar a un Jefe de Preparación, cuya función será anticiparse a los peligros que plantea la IA en el mundo real para mitigarlos.
«Será el líder directamente responsable de desarrollar y coordinar evaluaciones de capacidades, modelos de amenazas y mitigaciones que conforman un proceso de seguridad coherente, riguroso y escalable operativamente», señala la compañía.
El director ejecutivo de la compañía, Sam Altman, afirma al respecto que «será un trabajo estresante» y quien ocupe el cargo «estará envuelto en una situación complicada casi de inmediato», dijo en su cuenta en X.
«Este puesto es crucial en un momento crucial», partió diciendo el directivo. «Estamos viendo que los modelos se están volviendo tan expertos en seguridad informática que están empezando a detectar vulnerabilidades críticas».
Altman quiso explicar más sobre la convocatoria y señaló: «Contamos con una sólida base para medir las capacidades de crecimiento, pero nos adentramos en un mundo donde necesitamos una comprensión y medición más matizadas de cómo se podría abusar de dichas capacidades y cómo podemos limitar sus desventajas, tanto en nuestros productos como en el mundo, de forma que todos podamos disfrutar de sus enormes beneficios».
En la oferta de empleo se ofrecen detalles de las funciones del nuevo rol, entre las que destacan la gestión de la estrategia de preparación de OpenAI «de principio a fin» mediante la creación de evaluaciones de capacidad, el establecimiento de modelos de amenazas y la creación y coordinación de mitigaciones.
La persona contratada también deberá «liderar el desarrollo de evaluaciones de capacidad de frontera, garantizando que sean precisas, sólidas y escalables en ciclos de productos rápidos». Para ello tendrá que «desarrollar y coordinar evaluaciones de capacidades, modelos de amenazas y mitigaciones que conforman un proceso de seguridad coherente, riguroso y escalable operativamente»; y además, «perfeccionar y desarrollar el marco de preparación a medida que surjan nuevos riesgos, capacidades o expectativas externa».
