Los responsables de las compañías que hoy lideran los modelos de IA más potentes del mundo —Anthropic, OpenAI, xAI y Google DeepMind— coincidieron en la necesidad de frenar el ritmo de avance, pero las propuestas no se parecen entre sí. En menos de dos días, cada uno presentó su enfoque.
Dario Amodei, director ejecutivo de Anthropic, propuso una pausa deliberada en la velocidad de mejora de las capacidades de los sistemas, y planteó un mecanismo concreto para supervisión externa: permitir la entrada de evaluadores independientes dentro de la empresa, gestionados por la organización METR, con escritorio, credencial y laptop de Anthropic, y con derechos para publicar hallazgos sin censura editorial de la compañía. Estos evaluadores trabajarían a la par de los equipos de riesgo internos. Amodei sostiene que la validación de los modelos debe exigirse a la luz de un marco regulatorio antimonopolio y, en el mejor escenario, de un acuerdo internacional.
Demis Hassabis, cofundador de Google DeepMind, no descartó abrirse a un marco de supervisión general, pero presentó un enfoque diferente: reforzar un marco vigente para la IA de frontera, mediante la creación en Estados Unidos de un organismo de estándares con supervisión federal y financiamiento privado, similar a FINRA. Este ente tendría un directorio compuesto por especialistas independientes y representantes del código abierto, y definiría, mediante pruebas, qué modelo se considera “de frontera”. Los modelos serían entregados hasta 30 días antes de su lanzamiento para revisión en áreas como ciberseguridad, riesgos biológicos, intentos de eludir salvaguardas y señales de engaño. Inicialmente sería voluntario; posteriormente, obligatorio para vender en EE. UU. Las pruebas se renovarían cada trimestre y el organismo podría coordinar desaceleraciones del desarrollo entre laboratorios en caso de ser necesario.
La diferencia entre Amodei y Hassabis es de arquitectura: el primero propone un vigilante dentro de la empresa, contratado por la propia compañía; el segundo aboga por un organismo externo con mirada gubernamental sobre el proceso de certificación.
Sobre el razonamiento y el horizonte, Hassabis señaló que la inteligencia artificial general está “a pocos años” y advirtió sobre un impacto potencialmente diez veces mayor al de la Revolución Industrial, a una velocidad también exponencial, insinuando que estamos en las cercanías de una singularidad. Sus declaraciones se sumaron al marco de discusión ya planteado por sus pares.
En respuesta, Sam Altman, de OpenAI, reaccionó en X diciendo que coincide con Dario en la necesidad de marcar el ritmo de la frontera tecnológica y que esa fue una línea central en las conversaciones de OpenAI. Altman enfatizó la importancia de acordar reglas claras para avanzar con responsabilidad.
En conjunto, las afirmaciones reflejan un punto en común entre los líderes del sector: la urgencia de establecer reglas y controles para evitar riesgos significativos, aunque las rutas para implementarlas —vigilancia interna vs. organismo regulador externo— siguen sin conciliarse plenamente.
