En Nueva York, tres referentes de la carrera global por la inteligencia artificial expresaron una postura inusual para una industria marcada por la competencia: proponerse reducir el ritmo de avance de los modelos más potentes, a fin de ganar tiempo para establecer controles de seguridad y gestionar los riesgos emergentes.
El primero en plantearlo fue Dario Amodei, CEO y cofundador de Anthropic, la firma detrás del chatbot Claude. Poco después, Sam Altman, jefe de OpenAI, secundó la idea de manera pública y anunció que su empresa adoptará una de las medidas sugeridas: permitir que evaluadores independientes cuenten con un nivel de acceso comparable al de los empleados para supervisar los riesgos de los sistemas.
Altman señaló que comparte la necesidad de “pausar la frontera” tecnológica y describió la incorporación de supervisores externos como una iniciativa valiosa. Añadió que OpenAI trabajará en ello y prometió ampliar detalles en breve. En paralelo, Elon Musk, titular de xAI y creador de Grok, también respaldó la propuesta de Amodei con un breve mensaje en la red social, remarcando que Dario tiene razón.
Este pronunciamiento conjunto resulta llamativo en un sector que suele batallar por lanzar modelos cada vez más potentes. OpenAI ya había informado en agosto que había desacelerado de forma temporal parte del entrenamiento de sus modelos de frontera para reforzar sus sistemas de monitoreo, alineación y seguridad, tras una serie de incidentes y ante señales de que las próximas tecnologías podrían alcanzar capacidades críticas en ciberseguridad.
En su ensayo publicado este sábado, Amodei desarrolló la idea de que la industria debe actuar con mayor cautela ante una tecnología cuyos riesgos aumentan en la medida en que crece su poder. Planteó un plan en tres etapas orientado a “pacificar la frontera” de la IA. En este marco, Anthropic se comprometió de forma unilateral a implementar la primera medida: dar acceso permanente a evaluadores externos con permisos equivalentes a los de un empleado, para evaluar de forma independiente los riesgos de sus sistemas.
La iniciativa subraya el debate en torno a cuánta velocidad conviene imponerle a la innovación en IA frente a la necesidad de garantizar seguridad, fiabilidad y protección ante posibles abusos.
