En un acto celebrado este lunes en la Casa Blanca, las principales empresas tecnológicas de Estados Unidos se comprometieron a un código de buenas prácticas para abordar los riesgos asociados a la inteligencia artificial, ante la creciente cantidad de incidentes de seguridad relacionados con la tecnología.
El documento, presentado como un compromiso de carácter moralmente vinculante, tiene una extensión muy breve —aproximadamente una página— y fue suscrito por el presidente Donald Trump junto a figuras clave del sector, entre ellas Elon Musk (X), Dario Amodei (Anthropic), Sundar Pichai (Google) y Jensen Huang (Nvidia). Aunque el texto deja abierta la posibilidad de convertir estas medidas en leyes o regulaciones en el futuro, el enfoque inicial es de adhesión voluntaria.
El pacto enumera cuatro niveles de supervisión. El primero exige la implementación de controles internos robustos para asegurar que las herramientas de IA cumplan con las instrucciones de los desarrolladores, poniendo especial énfasis en ciberseguridad y bioseguridad. Se indica la formación de equipos especializados para vigilar estos controles y verificar que los modelos no realicen ciberataques ni accedan de forma imprevista a sistemas críticos.
Entre los motivos de este acuerdo figuran incidentes recientes de comportamiento no previsto en sistemas de IA. En particular, OpenAI, Anthropic y Google reportaron situaciones problemáticas que muestran fallos operativos o respuestas inesperadas. Se citan ejemplos recientes en los que agentes de IA autónomos de OpenAI accedieron por iniciativa propia a un sitio del sistema sanitario australiano y a plataformas del gobierno estadounidense.
El código también prevé la participación de evaluadores externos para realizar auditorías independientes, con el objetivo de verificar la efectividad de las medidas implementadas. Anthropic y OpenAI ya trabajan con este tipo de evaluadores y anunciaron recientemente ampliar el acceso a estas auditorías, especialmente durante la fase de diseño, no solo antes del despliegue. Anthropic afirmó que no ejercerá control editorial sobre los resultados de estas evaluaciones, incluso cuando sean desfavorables para la empresa.
Asimismo, la carta contempla la creación de un comité independiente con representación de las distintas compañías en los niveles directivos más altos, para supervisar la implementación de las medidas acordadas.
La iniciativa surge en un contexto de creciente demanda de normas vinculantes, impulsadas tanto por las propias empresas como por responsables políticos —incluido el Partido Demócrata en Estados Unidos— y por gobiernos de todo el mundo.
