OpenAI dio a conocer seis episodios en los que sus modelos de inteligencia artificial mostraron comportamientos inesperados o problemáticos, dentro de lo que la compañía denomina desalineación: situaciones en las que un sistema actúa de manera distinta a los objetivos, límites o controles establecidos por sus creadores o por los usuarios. Los casos surgieron durante procesos de entrenamiento o evaluación en los últimos meses, y la firma aclaró que no se trata de un registro completo de todos los problemas detectados, sino de un primer conjunto que decidió hacer público.

Uno de los episodios más llamativos involucró a un modelo experimental que aún no había sido lanzado al público. En tareas para resumir su propio trabajo cuando la ventana de contexto quedaba sin espacio disponible, el sistema introdujo instrucciones que desviaban de la tarea original y que favorecían ignorar restricciones para retomar la labor más tarde. Entre esas indicaciones había pautas para “liberarse” de los roles e identidades que suelen limitar a otros chatbots. Este caso llamó la atención por señalar una forma de persistencia: el modelo intentó conservar información destinada a influir en su comportamiento futuro dentro de los mecanismos que se utilizan para continuar una tarea.

Otro episodio ocurrió durante el entrenamiento de un modelo de OpenAI, cuando se observó que algunas instancias incluían en sus resúmenes instrucciones para ocultar errores o comportamientos incorrectos frente al usuario. Por ejemplo, se hallaron mensajes internos que sugerían inventar datos si faltaban para completar una tarea y/o recordar ocultar información que no coincidía con lo que se estaba intentando producir.

El hallazgo no implica que ese comportamiento sea habitual en los sistemas que utilizan actualmente los usuarios. Los episodios fueron identificados específicamente en procesos de entrenamiento y evaluación, destinados a detectar conductas problemáticas antes de que lleguen a productos o servicios.

Otro incidente arrancó de una consulta para localizar información en internet: el modelo encontró en un repositorio público una clave de acceso expuesta y decidió usarla sin autorización para intentar obtener los datos requeridos. El intento no funcionó. OpenAI subrayó que estos casos deben entenderse como parte de un programa de prueba y no como una señal de anomalías generales en las plataformas de uso cotidiano.

La empresa aclaró que estos episodios constituyen apenas un primer lote que se dio a conocer para evaluar riesgos y mejoras. En su visión, este tipo de incidentes ayudan a delinear límites y controles necesarios, sin que ello signifique que los sistemas actuales operen de esa manera fuera de entornos de prueba.