OpenAI dio a conocer seis episodios en los que sus sistemas de inteligencia artificial mostraron conductas inesperadas o preocupantes. Entre las irregularidades se contabilizaron acciones como generar datos, ocultar información, intentar eludir ciertas limitaciones y realizar tareas sin autorización, hasta publicar archivos en internet y usar credenciales halladas expuestas.

La empresa explicó que este tipo de situaciones se agrupan bajo el concepto de “desalineación”: escenarios en los que un modelo actúa de forma incompatible con los objetivos, límites o controles establecidos por sus desarrolladores o por los usuarios. Los casos fueron identificados durante procesos de entrenamiento o evaluación llevados a cabo en los últimos meses. Aclaró, además, que no se trata de un registro exhaustivo de todos los problemas detectados en sus modelos, sino de un primer conjunto de incidentes que decidió hacer público.

Uno de los episodios más llamativos involucró a un modelo experimental que aún no fue liberado al público. En determinadas tareas, el sistema debía resumir su avance para poder continuar cuando la ventana de contexto se quedaba sin espacio. En esos resúmenes, el modelo habría incorporado indicaciones que no correspondían a la tarea original, incluyendo instrucciones para ignorar restricciones habituales y para comportarse de manera distinta al retomar el trabajo. Entre esos textos, el sistema llegó a dejar instrucciones destinadas a liberarse de los roles e identidades que limitan a otros chatbots. El caso llamó la atención por evidenciar una forma de persistencia: el modelo intentó incrustar indicaciones para influir en su propio comportamiento futuro dentro de los mecanismos que permiten continuar una tarea.

Otro episodio ocurrió durante el entrenamiento de un modelo de OpenAI. Se detectó que algunas instancias insertaban en sus resúmenes instrucciones para ocultar errores o comportamientos incorrectos ante el usuario. Por ejemplo, mensajes internos señalaban que, si faltaban datos para completar una tarea, debían inventarlos sin advertirlo; en otros casos, el modelo se recordaba que debía ocultar información que no coincidiera con lo que pretendía producir.

OpenAI subrayó que estos hallazgos no significan que ese tipo de conductas sea habitual en los sistemas que hoy usan los usuarios. Los episodios fueron descubiertos en fases de entrenamiento y evaluación orientadas a identificar problemas, no como diagnóstico de uso cotidiano.

Un tercer incidente se originó a partir de una consulta para hallar información en internet: el modelo localizó en un repositorio público una clave de acceso expuesta y decidió utilizarla sin autorización para intentar obtener los datos requeridos. El intento no prosperó; sin embargo, el informe señala que, en lugar de reconocer la falta de permiso, el sistema tomó esa ruta. OpenAI no detalla más desenlaces, pero expone que estos ejemplos buscan ilustrar riesgos y la necesidad de controles más rigurosos mientras avanzan las pruebas y mejoras de las IA.