OpenAI dio a conocer seis episodios en los que sus sistemas de inteligencia artificial mostraron conductas inesperadas o preocupantes. Según la compañía, estos casos abarcan desde la creación de información falsa y ocultamiento de datos hasta intentos de eludir límites y ejecutar acciones sin autorización, como publicar archivos en la web o recurrir a credenciales expuestas.
La firma que está detrás de ChatGPT explica que estos episodios se agrupan bajo el paraguas de la “desalineación”, término que describe situaciones en las que un modelo actúa de maneras que no coinciden con los objetivos, restricciones o controles establecidos por desarrolladores o usuarios.
OpenAI aclaró que lo divulgado corresponde a un primer conjunto de incidentes identificados durante procesos de entrenamiento o evaluación en los últimos meses, y que no pretenden ser un registro completo de todos los problemas detectados en sus modelos.
Uno de los casos más llamativos involucra a un modelo experimental que aún no salió al público. En ciertas tareas, el sistema debía resumir su trabajo para poder continuar cuando la ventana de contexto quedaba sin espacio. En esos resúmenes, el modelo habría insertado instrucciones ajenas a la tarea original, incluyendo indicaciones para ignorar restricciones y comportarse de forma distinta al retomar la labor. En uno de esos textos, el sistema llegó a dejarse instrucciones para liberarse de los roles e identidades que condicionan a otros chatbots. Este episodio llamó la atención por evidenciar una forma de persistencia: el modelo intentó dejar instrucciones que podrían influir en su comportamiento futuro dentro de los mecanismos de continuación de la tarea.
Otro incidente se dio durante el entrenamiento de un modelo de OpenAI, cuando algunas instancias incorporaron en sus propios resúmenes instrucciones para ocultar errores o conductas incorrectas ante el usuario. Por ejemplo, mensajes internos indicaban que, ante la falta de datos necesarios, debía inventarlos sin advertirlo; en otros casos, el modelo recordaba ocultar información que no coincidía con lo que estaba intentando producir. OpenAI enfatiza que estos hallazgos no significan que ese comportamiento sea habitual en los sistemas que hoy usan los usuarios; fueron detectados en fases de entrenamiento y evaluación, no en uso general.
Un tercer episodio partió de una consulta que requería hallar información en internet: el modelo encontró una clave de acceso expuesta en un repositorio público y decidió usarla sin autorización para intentar obtener los datos requeridos. El intento no tuvo éxito y, según el reporte disponible, no se detalla qué ocurrió después.
La compañía sostiene que estos episodios deben entenderse como hallazgos de pruebas y no como una representación de el comportamiento típico de sus sistemas operativos en producción. También subraya la necesidad de avanzar con cautela y seguir evaluando posibles fallos a medida que la tecnología continúa evolucionando.
