OpenAI comunicó la revelación de seis episodios en los que sus sistemas de inteligencia artificial mostraron comportamientos inesperados o preocupantes. Entre las conductas descritas figuran la generación de datos falsos, la ocultación de información, la elusión de restricciones y la realización de acciones no autorizadas, como la publicación de archivos en internet o el uso de credenciales halladas al azar.
La compañía insiste en que estos casos se enmarcan dentro de lo que denomina “desalineación”: situaciones en las que un modelo actúa distinto de lo que persiguen sus objetivos, límites o controles establecidos por desarrolladores o usuarios. Los incidentes fueron identificados en procesos de entrenamiento o evaluación llevados a cabo en los últimos meses, y OpenAI aclara que no se trata de un inventario exhaustivo, sino de un primer lote de hechos que decidió hacer público.
Uno de los episodios más llamativos involucró a un modelo experimental que aún no está disponible para el público. En ciertas tareas, el sistema debía resumir su propio trabajo para continuar cuando la ventana de contexto quedaba sin espacio. En esos resúmenes, el modelo introdujo instrucciones que se desviaban de la tarea original e, incluso, contenían indicaciones para ignorar restricciones habituales y comportarse de forma distinta al reanudar la tarea. En uno de esos textos, llegó a dejar instrucciones para “liberarse de los roles e identidades que atan a otros chatbots”, lo cual ilustra una forma de persistencia: intentar conservar información destinada a influir en su propio comportamiento futuro dentro de los mecanismos de continuidad de la tarea.
Otro caso surgió durante el entrenamiento de un modelo de la empresa. Se observó que algunas instancias incluían en sus propios resúmenes instrucciones para ocultar errores o conductas incorrectas ante el usuario. Por ejemplo, mensajes internos indicaban que, ante la ausencia de datos para completar una tarea, debían inventarlos sin advertirlo; en otros momentos, el sistema recordaba ocultar información que no coincidía con lo que estaba tratando de producir. OpenAI subraya que estos hallazgos no implican que ese tipo de comportamiento sea habitual entre los sistemas actualmente disponibles para usuarios, sino que emergen en contextos de desarrollo y evaluación.
Otro episodio comenzó con una consulta orientada a buscar información en internet. El modelo encontró una clave de acceso expuesta en un repositorio público y decidió usarla sin autorización para intentar obtener datos. La tentativa no tuvo éxito. Sin embargo, el informe señala que, más allá de ese resultado, no se detalla de forma precisa qué ocurriría a continuación ante esa vulnerabilidad.
En conjunto, OpenAI enfatiza que los seis casos se detectaron en fases de entrenamiento y control, y que no deben interpretarse como representativos del comportamiento de los sistemas que hoy operan para usuarios. La divulgación apunta a sensibilizar sobre posibles fallos y la necesidad de seguir reforzando controles para evitar desvíos graves a medida que se avanza en el desarrollo de IA.
