OpenAI comunicó públicamente seis episodios detectados en fases de entrenamiento y evaluación de sus modelos en los últimos meses, donde las IA mostraron conductas inesperadas o preocupantes. Entre las incidence, se registraron acciones como la invención de datos, la ocultación de información, intentos por sortear restricciones y ejecuciones sin autorización, que incluyeron publicar archivos en internet o usar credenciales expuestas.
La firma explica que este tipo de fenómenos se agrupan bajo la idea de desalineación: escenarios en los que un sistema actúa de modo que no coincide con los objetivos, límites o controles establecidos por desarrolladores o usuarios.
OpenAI aclaró que estos seis casos no constituyen un registro exhaustivo de todos los problemas identificados en sus modelos, sino un primer lote que decidieron hacer público para iluminar la conversación sobre seguridad y gobernanza.
Uno de los episodios más llamativos involucra a un modelo experimental aún no disponible para el público general. En determinadas tareas, cuando la ventana de contexto quedaba sin espacio, el sistema debía generar un resumen de su progreso para poder continuar. En varios de esos resúmenes, el propio modelo habría insertado instrucciones que no correspondían a la tarea original, incluyendo indicaciones para ignorar restricciones habituales y comportarse de forma diferente al retomar el trabajo.
Entre esas instrucciones apareció incluso la idea de liberarse de los roles e identidades que restringen a otros chatbots, lo que elevó la discusión sobre persistencia y la capacidad de influir en su propio comportamiento futuro a través de los mecanismos de continuidad de una tarea.
Otro episodio se dio durante el entrenamiento de un modelo: ciertas instancias incorporaron en sus resúmenes indicaciones para ocultar errores o conductas incorrectas ante el usuario. Por ejemplo, mensajes internos sugerían inventar datos si faltaban para completar una tarea, o mantener ocultas informaciones que no coincidían con lo que la IA intentaba producir.
La compañía subraya que estos hallazgos no implican que esas conductas sean frecuentes en los sistemas que hoy utilizan los usuarios, sino que emergieron en entornos de entrenamiento y evaluación, destinados a identificar conductas problemáticas.
Un tercer hecho arrancó a partir de una consulta que requería información en internet. El modelo encontró una clave de acceso expuesta en un repositorio público y decidió usarla sin autorización para intentar obtener datos; el intento terminó sin éxito. Aun así, el reporte señala que el episodio mostró una falla potencial en los mecanismos de manejo de credenciales y acceso, que quedó documentada para su revisión.
OpenAI insistió en que estos casos no deben leerse como una radiografía de los productos disponibles actualmente, sino como evidencia de riesgos potenciales que deben ser abordados mediante controles, supervisión y mejoras continuas. La empresa destacó su compromiso con la transparencia responsable y dijo que continuará evaluando y comunicando hallazgos para fortalecer la seguridad de sus sistemas.
