En Nueva York, tres de las voces más influyentes en la carrera global por la inteligencia artificial expresaron este sábado una advertencia poco común en un sector caracterizado por la competencia feroz: conviene moderar el ritmo de desarrollo de los modelos de mayor potencia para sumar tiempo y endurecer las medidas de seguridad.
El primero en alzar la voz fue Dario Amodei, director ejecutivo y cofundador de Anthropic, la firma detrás del chatbot Claude. Horas después, Sam Altman, CEO de OpenAI y líder de la competencia, respaldó públicamente la propuesta y anunció que su empresa adoptará una de las medidas recomendadas: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para vigilar los riesgos de los sistemas.
“Coincido con Dario en que debemos moderar el ritmo en la frontera de la IA”, escribió Altman. Añadió que este tema ha sido central en las conversaciones internas de OpenAI en las últimas semanas y calificó como “gran idea” la incorporación de supervisores externos. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, añadió.
Poco después se sumó Elon Musk, titular de xAI y creador de Grok, quien también apoyó la postura de Amodei: “Dario tiene razón”.
La declaración conjunta aparece en un contexto donde las compañías buscan lanzar modelos cada vez más potentes. OpenAI ya había informado en agosto que había desacelerado temporalmente parte del entrenamiento de sus modelos de frontera para reforzar sus sistemas de monitoreo, alineación y seguridad, ante incidentes y señales de que las capacidades futuras podrían presentar riesgos en ciberseguridad.
En su ensayo publicado este sábado, Amodei fue más allá y pidió actuar con mayor cautela frente a una tecnología cuyo riesgo aumenta conforme crece su poder. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, sostuvo.
El texto llega después de que Anthropic haya publicado el jueves un material relacionado y, como primer paso, la empresa se comprometió de forma unilateral a permitir que evaluadores externos tengan acceso permanente de nivel empleado para supervisar los riesgos de sus sistemas.
