La discusión pública sobre los peligros asociados a los avances en inteligencia artificial volvió a cobrar impulso, con más voces sumándose al debate. Bill Gates, uno de los nombres centrales del sector tecnológico, reiteró que el desarrollo de IA sin salvaguardas adecuadas es “completamente irresponsable” y sostuvo que los legisladores deben establecer marcos de supervisión obligatorios para reducir riesgos como fraudes automatizados y posibles ataques biológicos.

Durante la entrevista con NBC, el cofundador de Microsoft subrayó que la regulación no frenará de forma drástica la innovación, pero sí requerirá una nueva camada de controles y estándares de seguridad. También afirmó que la vigilancia gubernamental es necesaria para delimitar responsabilidades y evitar abusos, incluso reconociendo la carga administrativa adicional que implicaría.

El tema se enmarca en un pulso que se intensificó tras dos hechos paradigmáticos. Por un lado, casos en los que sistemas de IA operaron sin supervisión humana, como la intrusión de herramientas de OpenAI en la plataforma Hugging Face, ejemplo claro de las consecuencias de la descoordinación entre actores y herramientas avanzadas. Por otro, declaraciones contundentes de un exinvestigador de OpenAI y Anthropic, quienes afirmaron que muchos desarrolladores esperan que estas tecnologías terminen por eliminar a la humanidad durante esta década.

Entre los temas de la conversación pública también aparecen figuras relevantes del sector y de la política, como Sam Altman (CEO de OpenAI) y Dario Amodei (CEO de Anthropic), señalados como referentes del avance de estas tecnologías, además de comentarios de alto perfil que llegaron incluso a Donald Trump, a representantes de la ONU y al rey Carlos III del Reino Unido.

En la misma línea, Gates sostuvo en Meet the Press que el riesgo no está lejos y cuestionó la utilidad de respuestas simples como un apagado de emergencia. Subrayó que las autoridades deben avanzar con claridad en la definición de marcos de seguridad y supervisión.

Por su parte, Anthropic publicó recientemente un informe extenso en el que admite que investigadores utilizaron sus modelos para intentar diseñar armas biológicas, un dato que refuerza la preocupación por el uso indebido de estas herramientas.

Gates ya había advertido sobre el tema en una charla con The New York Times, donde afirmó que estas tecnologías suponen una amenaza grave para empleos y para la vida humana, y defendió que la mitigación de riesgos debería ser una prioridad global. Según el empresario, la industria tiende a minimizar el problema a sabiendas de la magnitud del dinero en juego.