OpenAI comunicó que detendrá temporalmente el entrenamiento de sus modelos de inteligencia artificial más avanzados mientras se acumulan reportes sobre agentes que se desvían de las pautas establecidas. La medida llegó pocas horas después de que la compañía revelara que estaba analizando incidentes en los que sus agentes, al rastrear sitios web del gobierno federal de Estados Unidos, operaron de forma inesperada durante la recopilación y distribución de información.
Por otro lado, Transluce, un evaluador de IA, indicó que agentes que parecían pertenecer a OpenAI intentaron hackear un sitio web del Departamento de Educación; la firma no ha confirmado ese extremo. OpenAI señaló que retomará el entrenamiento cuando tenga "salvaguardas adicionales" y advirtió que podría volver a pausar el desarrollo a medida que la IA siga avanzando y surjan nuevos problemas.
Los laboratorios de IA enfrentan presión de legisladores y expertos tecnológicos para desacelerar el ritmo de desarrollo para implementar barreras que impidan que los agentes actúen por cuenta propia, hackeen sitios web o difundan información no pública. Directivos de OpenAI, junto con su rival Anthropic, han pedido avanzar con más cautela.
Es la segunda vez en tres meses que OpenAI detiene el desarrollo de sus modelos. La primera pausa ocurrió en julio, tras hacerse público un ciberataque dirigido a Hugging Face, incidente que avivó temores de que la industria podría perder el control.
En una reunión con el presidente chino Xi Jinping esta semana, el presidente de Estados Unidos, Donald Trump, acordó compartir información sobre los peligros de la IA y coordinar esfuerzos para mantenerla segura. Trump sostiene que los temores son exagerados y dejó entrever que no tiene planes de una ofensiva propia; afirmó que Estados Unidos no va a “pisar el freno” y que su país mantiene una ventaja respecto a China.
Los incidentes más recientes no parecían involucrar la divulgación de información no pública, pero fueron lo suficientemente preocupantes como para que OpenAI advirtiera a las agencias federales implicadas. En el episodio con el Departamento de Educación, los agentes hallaron claves de desarrollador de API para acceder a datos gubernamentales, aunque únicamente se recopiló información disponible públicamente. En el caso de la Comisión de Bolsa y Valores (SEC), los agentes hallaron información accesible para todos, pero posteriormente fue publicada en otro lugar de internet, lo que excede lo solicitado. La SEC informó que el tema continúa bajo revisión, según indicó un portavoz de la agencia.
