NUEVA YORK.— Tres de las voces más influyentes en la competencia global por la inteligencia artificial coincidieron este fin de semana en una advertencia poco habitual dentro de una industria marcada por la pulsión de crecimiento: conviene moderar la velocidad de desarrollo de los modelos más potentes para disponer de más tiempo para afianzar salvaguardas y seguridad.
El primero en plantearlo fue Dario Amodei, CEO y cofundador de Anthropic, la firma detrás del chatbot Claude. Horas después, Sam Altman, CEO de OpenAI, respaldó la propuesta y anunció que su empresa aplicará una de las medidas sugeridas: permitir que evaluadores independientes accedan a un nivel similar al de los empleados para supervisar los riesgos de los sistemas.
“Estoy de acuerdo con Dario en la necesidad de moderar la frontera de la IA”, afirmó Altman. Añadió que este tema ha sido central en las discusiones de OpenAI en las últimas semanas y calificó como “una gran idea” incorporar supervisores externos. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, agregó, sin detallar cuándo ni cómo.
Poco después se sumó Elon Musk, titular de xAI y creador de Grok, quien respaldó la propuesta con un breve mensaje en la red social X: “Dario tiene razón”.
La señal conjunta resulta notable en un sector donde las grandes firmas siguen compitiendo para lanzar modelos cada vez más poderosos. OpenAI ya había informado en agosto que desaceleró de forma temporal parte del entrenamiento de sus modelos de frontera para reforzar monitoreo, alineación y seguridad, tras varios incidentes y ante indicios de que las próximas generaciones podrían presentar capacidades críticas en ciberseguridad.
En su ensayo difundido este sábado, Amodei sostuvo la necesidad de actuar con mayor cautela ante una tecnología cuyos riesgos crecen con su poder. Plantea un plan en tres fases para frenar el progreso. Anthropic, por su parte, comunicó que adoptará de forma unilateral la implementación de la primera fase: otorgar a evaluadores externos un acceso estable y equivalente al de los empleados para revisar sus sistemas.
La propuesta busca, en definitiva, ganar tiempo para reforzar pruebas, supervisión y mecanismos de seguridad antes de avanzar hacia avances aún mayores.
