En Nueva York, tres de las figuras más influyentes en la carrera por la inteligencia artificial coincidieron este sábado en una posición poco habitual para una industria tan competitiva: es momento de moderar la velocidad a la que se desarrollan los modelos más potentes, con el objetivo de ganar tiempo y fortalecer las medidas de seguridad.
El primer llamado vino de Dario Amodei, director ejecutivo y cofundador de Anthropic, la empresa detrás del chatbot Claude. Horas después, Sam Altman, CEO de OpenAI y uno de sus principales rivales, respaldó públicamente la idea y anunció que su compañía adoptará una de las medidas propuestas por Amodei: abrir la supervisión a evaluadores independientes con un nivel de acceso similar al de los empleados para vigilar los riesgos de los sistemas.
“Coincido con Dario en que debemos moderar la frontera de la IA”, escribió Altman, quien afirmó que el tema ha sido central en las conversaciones recientes y calificó como “una gran idea” incorporar supervisores externos. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, agregó.
Poco después se sumó Elon Musk, dueño de xAI y creador del chatbot Grok, quien también respaldó la propuesta de Amodei. “Dario tiene razón”, comentó en su red social.
El pronunciamiento conjunto adquiere relevancia en un sector donde las compañías compiten por presentar modelos cada vez más potentes. OpenAI ya había informado en agosto que ralentizó de forma temporal parte del entrenamiento de sus modelos de frontera para reforzar sus sistemas de monitoreo, alineación y seguridad, tras una serie de incidentes y ante indicios de que las próximas generaciones podrían presentar riesgos en ciberseguridad.
En su ensayo publicado este sábado, Amodei va más lejos y propone actuar con mayor cautela frente a una tecnología cuyos riesgos, advierte, aumentan con el poder que adquiere. El texto, titulado We Must Pace the Frontier, plantea un plan en tres partes para desacelerar el avance. En ese marco, Anthropic señaló que aceptará de manera unilateral la primera de esas medidas: otorgar a evaluadores independientes acceso permanente de nivel equivalente al de un empleado para el análisis de riesgos.
