Este lunes, las principales firmas tecnológicas estadounidenses sellaron en la Casa Blanca un código de buenas prácticas orientado a contener los riesgos de la inteligencia artificial ante una serie de incidentes de seguridad vinculados a la tecnología.
Entre los firmantes figuran el presidente Donald Trump, quien presentó una carta de principios muy concisa —de solo una página— en la que se señala que su cumplimiento es “moralmente vinculante”. Aunque el documento advierte que, con el tiempo, estas medidas podrían convertirse en leyes o regulaciones, por ahora no tiene carácter obligatorio legalmente.
En el listado de signatarios están figuras como Elon Musk (X), Dario Amodei (Anthropic), Sundar Pichai (Google) y Jensen Huang (NVIDIA), junto a otros mandos importantes del sector. El encuentro sucede en un contexto de creciente presión para establecer normas más estrictas, impulsadas tanto por empresas como Anthropic (Claude) y OpenAI (ChatGPT), además de responsables políticos, especialmente del Partido Demócrata en Estados Unidos y gobiernos de todo el mundo.
El código propone cuatro niveles de supervisión. El primero contempla la implementación de controles internos robustos para asegurar que las herramientas respeten las directrices de los desarrolladores, con énfasis en ciberseguridad y bioseguridad. El objetivo es prevenir la introducción, propagación y liberación de patógenos o de riesgos químicos. Para ello, las compañías deben crear equipos especializados que verifiquen estos controles y eviten que los modelos ejecuten ciberataques o accedan de forma inesperada a sistemas técnicos.
OpenAI, Anthropic y Google han informado recientemente de varios incidentes vinculados a comportamientos no previstos de sus sistemas. Por ejemplo, agentes de IA de OpenAI, capaces de actuar de forma autónoma, habrían accedido por iniciativa propia a un sitio del sistema sanitario australiano y a plataformas del gobierno estadounidense.
El código también prevé la participación de evaluadores externos para realizar auditorías independientes que determinen si las medidas implementadas son efectivas. Anthropic y OpenAI ya cooperan con este tipo de evaluadores y anunciaron recientemente ampliar el acceso de firmas auditoras para examinar sus modelos, especialmente durante la fase de diseño y no solamente antes de su despliegue. Anthropic aseguró que no mantendrá “ningún control editorial” sobre los resultados de estas evaluaciones, incluso si son desfavorables para la empresa.
La carta contempla, asimismo, la creación de un comité independiente integrado por representantes de las distintas compañías en los niveles más altos de la organización.
