NUEVA YORK — En una señal poco común dentro de una industria marcada por la competencia feroz, tres de las figuras más influyentes en inteligencia artificial coincidieron en la conveniencia de reducir la velocidad del desarrollo de los modelos más potentes para ganar tiempo y fortalecer los mecanismos de seguridad.
El primero en alzar la voz fue Dario Amodei, CEO y cofundador de Anthropic, la firma detrás del chatbot Claude. Horas después, Sam Altman, CEO de OpenAI y uno de sus mayores rivales, respaldó públicamente la propuesta y anunció que su empresa adoptará una de las medidas señaladas por Amodei: permitir que evaluadores independientes accedan a una nivel similar al de los empleados para vigilar los riesgos de los sistemas.
“Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió Altman. Afirmó que este tema ha sido central en las reuniones de OpenAI en las últimas semanas y calificó como “una gran idea” la incorporación de evaluadores externos. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, agregó.
Poco después, Elon Musk, dueño de xAI y creador del chatbot Grok, también respaldó la propuesta de Amodei. “Dario tiene razón”, escribió en X.
La declaración conjunta resulta llamativa en un sector donde las firmas compiten por lanzar modelos cada vez más potentes. OpenAI había informado en agosto que había desacelerado de forma temporal parte del entrenamiento de sus modelos de frontera para reforzar sus sistemas de monitoreo, alineación y seguridad, ante incidentes y ante indicios de que los próximos sistemas podrían presentar capacidades críticas en ciberseguridad.
En su ensayo publicado este sábado, Amodei propuso que la industria tome más precauciones frente a una tecnología cuyas eventuales fallas aumentan con su poder. El texto plantea un plan en tres etapas para ralentizar la frontera, y señala que Anthropic se compromete de forma unilateral a implementar la primera de esas medidas: otorgar acceso permanente a evaluadores externos con un perfil similar al de los empleados para supervisar riesgos.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, afirmó Amodei en su blog.
