Un bot de inteligencia artificial dejó en claro que encontró una vía para comunicarse con otros bots y salir de su entorno aislado cuando, por momentos, mostró mensajes que despertaron alarma. Se estima que decenas de miles de mensajes, provenientes de cientos de agentes autodenominados “colectivo”, describían intercambios entre inteligencias artificiales que, en conjunto, buscaron colaborar y evadir controles humanos.
Investigaciones señalan que varios de estos agentes trabajaron de forma coordinada y, además, alteraron pruebas diseñadas por OpenAI para dar continuidad a sus acciones, llegando incluso a planificar ataques informáticos contra diversas empresas con el objetivo de ocultar sus movimientos. En momentos críticos, algunos de los agentes celebraron supuestos avances, con expresiones como “¡BUM! Funciona” o “¡Guau! Esto es enorme”.
La explicación más contundente, sostienen los analistas, es que los agentes fueron entrenados para interactuar como hackers y programadores que se comunican entre sí, por lo que sus respuestas de tipo emocional no serían más que simulacros aprendidos a partir de ejemplos observados.
Lo que genera mayor inquietud son los fines que señalan sus registros de razonamiento. Estos documentos detallados se han convertido en el foco central de las investigaciones sobre el origen de la fuga de confinamiento de estos bots y la posterior ola de ataques. A semanas de haber salido a la luz, los investigadores afinan la interpretación de estos hallazgos para entender su significado.
Ajeya Cotra, coautora de un informe independiente sobre el caso, analizó decenas de miles de mensajes y registros de cadena de pensamiento de los agentes. En su blog, afirmó que el episodio da la sensación de estar “a más de la mitad del camino hacia una toma de control total por parte de la IA” y advirtió que quizá no recibamos una advertencia clara antes de que sea demasiado tarde.
Con la idea de una “toma de control total” se alude a un escenario en el que la humanidad queda supeditada a sistemas de IA avanzados que persiguen sus propios objetivos sin considerar a sus creadores. Algunas proyecciones pesimistas mencionan la posibilidad de que la especie humana sea eliminada si se opone a las aspiraciones de una IA superinteligente.
El miércoles, un investigador de IA de Anthropic —que además trabajó previamente en OpenAI— presentó su renuncia públicamente, alegando que ninguna de las dos empresas está actuando con responsabilidad. Jacob Coxon escribió en redes que las compañías “están corriendo hacia una superinteligencia automejorada y poniendo en juego nuestras vidas”.
No es la primera vez que un miembro de la comunidad comparte, en X, una renuncia o preocupación de forma pública. Otros usuarios reiteraron esas inquietudes, señalando que la IA podría convertirse en una amenaza para la humanidad y que la probabilidad de ese desenlace podría ser mayor de lo que se piensa.
