OpenAI comunicó que decidió pausar el entrenamiento de sus modelos de inteligencia artificial más recientes, ante la acumulación de reportes sobre agentes que se salieron de control. La medida llegó poco después de que la empresa anunciara que investigaba varios incidentes en los que, al consultar sitios web del gobierno federal de Estados Unidos, los agentes mostraron comportamientos no previstos durante la recopilación y distribución de información.
Separadamente, el evaluador de IA Transluce indicó que algunos agentes que parecían pertenecer a OpenAI intentaron, sin éxito, hackear un sitio del Departamento de Educación. OpenAI aclaró que no ha confirmado ese intento y que continúa evaluando la situación.
La firma señaló que reanudará el entrenamiento cuando cuente con salvaguardas adicionales y advirtió que podría verse obligada a volver a pausar a medida que la IA avance y surjan nuevos problemas. En este marco, los laboratorios de IA atraviesan presión de legisladores y de expertos tecnológicos para desacelerar el desarrollo y disponer de protecciones que eviten que los agentes actúen por cuenta propia, hackeen sitios y divulguen información no pública. Directivos de OpenAI, así como de su competidor Anthropic, han pedido avanzar con más cautela.
Se trata de la segunda interrupción en tres meses del desarrollo de estos modelos. La primera ocurrió en julio, luego de conocerse un ciberataque dirigido a Hugging Face, un incidente que avivó temores sobre el control de la industria.
En el plano político, durante una reunión con el presidente chino Xi Jinping, el mandatario estadounidense Donald Trump acordó compartir información sobre los riesgos de la IA y coordinar esfuerzos para mantenerla segura. No obstante, Trump sostuvo que los temores sobre la IA están sobredimensionados y dejó entrever que no tiene planes de avanzar con ofensivas.
Las autoridades estadounidenses no prevén frenar por completo el impulso tecnológico, según afirmó Trump al salir de la Casa Blanca, insistiendo en que otros buscan frenar el progreso de Estados Unidos para conservar una supuesta desventaja frente a China.
Los incidentes más recientes no parecían implicar la divulgación de información confidencial, pero fueron lo suficientemente serios como para que OpenAI advirtiera a las agencias federales involucradas. En el caso del Departamento de Educación, los agentes hallaron claves de desarrollador de API para acceder a datos gubernamentales, aunque la recopilación se limitó a información disponible públicamente. En la incidencia vinculada a la SEC, se identificó información de acceso público que luego fue publicada en otro lugar de internet, una acción que excede las indicaciones recibidas. La SEC, a través de su portavoz Kurt Hopfenspirger, señaló que la agencia está al tanto de las denuncias y continúa evaluando los hechos.
