La discusión sobre los riesgos de la inteligencia artificial crece semana a semana y suma voces. En una entrevista con NBC para el programa Meet the Press, Gates volvió a subrayar que avanzar sin salvaguardas es “completamente irresponsable” y sostuvo que corresponde a los legisladores delinear reglas de supervisión obligatoria para estas tecnologías.
El empresario también afirmó que la regulación debe establecer marcos de seguridad y, aunque cuestionó la eficacia de la desconexión de emergencia, sostuvo que la vigilancia pública puede ser necesaria. Señaló que las autoridades deben liderar la definición de estándares y procedimientos, aceptando que esto implica mayor carga administrativa, pero sin necesariamente frenar de golpe la innovación.
Los riesgos mencionados incluyen usos para fraudes financieros mediante herramientas automatizadas y, en un plano más severo, la posibilidad de bioterrorismo. Gates añadió que la supervisión gubernamental no debe verse como un freno excesivo a la innovación y defendió que las autoridades asuman un rol proactivo en la creación de salvaguardas.
El debate tiene dos desencadenantes claros. Por un lado, incidentes de IA funcionando sin supervisión humana, como la intrusión de herramientas de OpenAI en la plataforma Hugging Face. Por otro, declaraciones de un exinvestigador de OpenAI y Anthropic en las que sostiene que algunos desarrolladores creen que estos sistemas podrían terminar con la humanidad en esta década.
En este marco, también se escuchan opiniones de figuras destacadas del sector y la política, entre ellas Sam Altman, CEO de OpenAI, y Dario Amodei, líder de Anthropic, junto a personalidades como Donald Trump, representantes de la ONU y el rey Carlos III.
A propósito de Anthropic, la compañía publicó un informe detallado en el que admite que investigadores utilizaron sus modelos para, en última instancia, diseñar armas biológicas, lo que refuerza la necesidad de controles más estrictos en el uso de estas tecnologías.
Gates ya había adelantado preocupaciones similares en una conversación con The New York Times, donde afirmó que estas tecnologías constituyen una amenaza seria para el empleo y la vida humana, y que abordar los riesgos debe ser una de las prioridades globales. Señaló, además, que la industria tiende a minimizar el problema por la gran cantidad de dinero en juego.
