En Nueva York, tres de las voces más influyentes de la carrera global por la inteligencia artificial coincidieron en una advertencia poco habitual en una industria marcada por la competencia: conviene moderar la velocidad de creación de los modelos más potentes para ganar tiempo y fortalecer las medidas de seguridad.
El primero en alzar la voz fue Dario Amodei, director ejecutivo y cofundador de Anthropic, la empresa detrás del chatbot Claude. Horas más tarde, Sam Altman, CEO de OpenAI, respaldó públicamente la propuesta y anunció que su compañía adoptará una de las medidas sugeridas: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de los sistemas.
“Estoy de acuerdo con Dario en la necesidad de moderar la frontera de la IA”, escribió Altman. Comentó que este tema ha sido central en las conversaciones dentro de OpenAI en las últimas semanas y aseguró que la idea de incorporar supervisores externos es muy positiva. “Haremos lo mismo. Pronto tendremos más para compartir”, añadió.
Poco después se sumó Elon Musk, titular de xAI y creador de Grok, quien también respaldó la propuesta de Amodei: “Dario tiene razón”, expresó en X.
El pronunciamiento conjunto es llamativo en un sector donde las compañías compiten por lanzar modelos cada vez más poderosos. OpenAI ya había indicado en agosto que había desacelerado temporalmente parte del entrenamiento de sus modelos de frontera para reforzar sistemas de monitoreo, alineación y seguridad, tras incidentes y ante indicios de que sus próximos sistemas podrían adquirir capacidades críticas en ciberseguridad.
En su ensayo publicado este sábado, Amodei fue más explícito y llamó a actuar con mayor cautela ante una tecnología cuyos riesgos parecen aumentar con su poder. Bajo el título We Must Pace the Frontier, propone un plan de tres partes para desacelerar la carrera. Anthropic, según su propio compromiso, adoptaría de forma unilateral la primera medida: conceder a evaluadores externos un acceso permanente de nivel empleado para revisar riesgos y asegurar la seguridad. La publicación se dio a conocer poco después de que Anthropic difundiera un anuncio relacionado el jueves anterior.
