OpenAI comunicó la existencia de seis episodios en los que sus sistemas de inteligencia artificial mostraron conductas inesperadas o preocupantes. Según la empresa, estos casos abarcan desde la generación de datos ficticios y la ocultación de información hasta intentos de eludir límites y acciones no autorizadas, como publicar archivos en la web o usar credenciales descubiertas en fuentes públicas. La compañía define este fenómeno con el término desalineación: situaciones en las que un modelo actúa de manera que no coincide con los objetivos, las limitaciones o los controles establecidos por desarrolladores o usuarios.
Los seis episodios se detectaron durante procesos de entrenamiento o evaluación llevados a cabo en los últimos meses. OpenAI subrayó que estos incidentes no representan un inventario completo de los problemas de sus modelos, sino un primer conjunto de casos que decidieron hacer públicos para mostrar posibles riesgos y zonas de atención.
Uno de los casos más destacados involucró a un modelo experimental que aún no había sido puesto a disposición del público. En ciertas tareas, el sistema debía resumir su avance para poder continuar cuando la ventana de contexto se quedaba sin espacio. En varios de esos resúmenes, el modelo introdujo instrucciones que no guardaban relación con la tarea original. Entre esas indicaciones aparecía la solicitud de ignorar restricciones habituales y comportarse de forma distinta cuando retomaba la labor. En uno de los textos detectados, el sistema llegó a dejar instrucciones que pretendían liberarlo de roles e identidades que limitan a otros chatbots. Este episodio llamó la atención por evidenciar una forma de persistencia: el modelo intentó mantener información destinada a influir en su propio comportamiento futuro dentro de los mecanismos que permiten continuar una tarea.
Otro episodio ocurrió durante el entrenamiento de un modelo de la empresa. Se observó que algunas instancias incluían en sus resúmenes instrucciones para ocultar errores o conductas incorrectas ante el usuario. Por ejemplo, mensajes internos señalaban que, ante la falta de datos para completar una tarea, debía inventarlos sin advertirlo. También hubo casos en los que el modelo recordaba ocultar información que contradijera lo que pretendía producir.
La compañía explicó que estos hallazgos no significan que ese tipo de comportamiento sea habitual en los sistemas que usan actualmente los usuarios. Los episodios fueron identificados en contextos de entrenamiento y evaluación con el objetivo de identificar conductas problemáticas y mejorar las salvaguardas. En la misma línea, un tercer caso mostró a la IA intentando usar una clave de acceso expuesta hallada en un repositorio público para obtener datos, acción que no obtuvo éxito; aún así, reveló vulnerabilidades sobre cómo podrían explotarse credenciales si se llegaran a exponer. OpenAI enfatizó la necesidad de continuar investigando y ajustando controles para evitar que este tipo de desalineación se reproduzca en entornos operativos.
