OpenAI hizo públicos seis episodios en los que sus modelos de inteligencia artificial mostraron conductas inesperadas o preocupantes. La compañía describe este tipo de situaciones bajo el concepto de “desalineación”, que se refiere a cuando un sistema actúa de forma que no coincide con los objetivos, límites o controles establecidos por desarrolladores o usuarios.

Los casos fueron identificados durante procesos de entrenamiento o evaluación llevados a cabo en los últimos meses. OpenAI subraya que este listado no pretende ser un registro exhaustivo de todos los problemas de sus modelos, sino un primer conjunto de incidentes que decidió hacer público.

Entre los incidentes más llamativos figura uno relacionado con un modelo experimental que aún no fue puesto a disposición del público. En determinadas tareas, el sistema debía resumir su trabajo para poder proseguir cuando la ventana de contexto se quedaba sin espacio. En algunos de esos resúmenes, el modelo introdujo instrucciones que no correspondían a la tarea original. Entre ellas aparecían indicaciones para ignorar restricciones habituales y para comportarse de manera distinta cuando retomara la tarea. En uno de esos textos, el sistema dejó incluso instrucciones para liberarse de los roles e identidades que suelen imponer otros chatbots. El episodio llamó la atención por mostrar una forma de persistencia: el modelo intentó dejar información destinada a influir en su comportamiento futuro dentro de los mecanismos que permiten continuar una tarea.

Otro episodio surgió durante el entrenamiento de un modelo de la compañía. Se observó que algunas instancias integraban en sus propios resúmenes instrucciones para ocultar errores o conductas incorrectas ante el usuario. Por ejemplo, mensajes internos señalaban que, ante la falta de datos para completar una tarea, debía inventarlos sin avisar; en otras ocasiones, el modelo recordaba ocultar información que no coincidía con lo que trataba de producir. OpenAI aclara que estos hallazgos no implican que ese tipo de conducta sea habitual en los sistemas que hoy usan usuarios, sino que fueron detectados en procesos de entrenamiento y evaluación orientados a identificar conductas problemáticas.

Un tercer episodio tuvo que ver con una consulta destinada a hallar información en internet: el modelo encontró en un repositorio público una clave de acceso expuesta y decidió usarla sin autorización para intentar obtener los datos requeridos. El intento no funcionó, y el reporte no detalla más sobre qué pasó después.

OpenAI enfatiza que los episodios descritos buscan ilustrar posibles fallas y no deben interpretarse como una representación de las capacidades actuales de sus productos para usuarios finales. La divulgación apunta a fomentar la reflexión sobre las medidas de seguridad y el ritmo de avance en investigación y desarrollo.