En Nueva York, tres de las figuras más influyentes en la carrera por la inteligencia artificial plantearon, de forma poco habitual en una industria marcada por la competencia, la necesidad de bajar el ritmo del desarrollo de los modelos más avanzados para ganar tiempo y endurecer las medidas de seguridad.
El primero en alzar la voz fue Dario Amodei, CEO y cofundador de Anthropic, la empresa detrás del chatbot Claude. Horas después, Sam Altman, director ejecutivo de OpenAI, respaldó públicamente la propuesta y anunció que su compañía implementará una de las medidas sugeridas: permitir que evaluadores independientes accedan a niveles semejantes a los de los empleados para vigilar los riesgos de los sistemas.
“Coincido con Dario en que es necesario moderar la frontera de la IA”, escribió Altman. Aseguró que el tema venía siendo uno de los principales puntos de discusión en OpenAI en las últimas semanas y calificó como una gran idea la incorporación de supervisores externos. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, añadió.
Poco después, Elon Musk, titular de xAI y creador de Grok, también mostró su apoyo al planteo de Amodei. En X dejó un breve mensaje: “Dario tiene razón”.
La declaración conjunta resulta llamativa en un sector donde las compañías compiten por hacer “modelos” cada vez más potentes. OpenAI ya había comunicado en agosto que había desacelerado temporalmente parte del entrenamiento de sus modelos punteros para fortalecer sus sistemas de monitoreo, alineación y seguridad, después de incidentes y ante señales de que las próximas versiones podrían presentar capacidades críticas en ciberseguridad.
En su ensayo publicado este sábado, Amodei fue aún más enfático y pidió a las empresas que actúen con mayor cautela frente a una tecnología cuyos riesgos aumentan con su poder. “Debemos reducir la velocidad a la que mejoramos las capacidades de los modelos de IA; el progreso seguirá pareciendo veloz y conviene aprovechar con inteligencia el tiempo que se gane”, afirmó.
El texto de Amodei, titulado We Must Pace the Frontier, describe un plan en tres etapas para ralentizar la trayectoria de la IA. Anthropic, de forma unilateral, se comprometió con la primera medida: otorgar de manera permanente a evaluadores externos acceso a un nivel equivalente al de los empleados para supervisar riesgos de manera continua.
