OpenAI busca un nuevo «Jefe de Preparación» para anticipar y mitigar daños de la IA

OpenAI anunció la búsqueda de un nuevo «Head of Preparedness» (Jefe de Preparación), un rol cuyo objetivo principal es anticipar cómo los modelos avanzados de IA podrían ser abusados o causar daños graves, y así orientar la estrategia de seguridad de la empresa. El puesto fue destacado por el CEO de OpenAI, Sam Altman, como «crítico en un momento importante» y está orientado a abordar problemas como los impactos en la salud mental de los usuarios y otros retos surgidos por las capacidades de sus modelos.

El cargo ofrece un salario de 555 000 dólares al año más opciones sobre acciones y otros beneficios, y requiere liderar la estrategia técnica y ejecución del «marco de preparación» de OpenAI —es decir, su enfoque sistemático para rastrear y prepararse frente a capacidades de IA que generen riesgos severos. Altman ha enfatizado que es un trabajo “estresante” que exige sumergirse de inmediato en desafíos complejos.

Enfoque y responsabilidades del nuevo Head of Preparedness

Según la descripción del puesto, esta persona liderará evaluaciones de capacidades, construcción de modelos de amenazas y diseño de mitigaciones técnicas para riesgos (incluidos los de ciberseguridad y bioseguridad), asegurando que los sistemas de protección sean robustos y escalables. Además, tendrá que colaborar con equipos internos y externos para integrar la preparación en las decisiones de lanzamiento de productos y políticas de seguridad.

Este movimiento llega en un contexto en el que la seguridad y el impacto de la IA han recibido críticas públicas, incluidos informes sobre efectos negativos en la salud mental de usuarios y otras preocupaciones sociales. OpenAI ha visto rotaciones en su equipo de seguridad en los últimos años, subrayando la importancia de reforzar su enfoque frente a los riesgos asociados con la rápida evolución de los modelos de IA.

Vía – Engadget