La discusión sobre los riesgos vinculados al progreso de la inteligencia artificial mantiene su lugar en la agenda tecnológica mundial, con cada vez más voces que se suman. En una entrevista con NBC, Bill Gates afirmó que avanzar en IA sin salvaguardas adecuadas es, en su criterio, irresponsable y pidió a los legisladores que establezcan marcos de supervisión obligatorios, advirtiendo sobre posibles usos indebidos como fraudes financieros y bioterrorismo.
El cofundador de Microsoft sostuvo que una supervisión gubernamental eficaz implicaría definir estándares de seguridad y controles, aun cuando reconoció que esa regulación podría significar una carga administrativa adicional. Aseguró, no obstante, que ese marco no debería frenar drásticamente la velocidad de la innovación.
El discurso de Gates se inscribe en un debate que se potenció por dos hechos recientes. Uno fue la aparición de sistemas de IA operando sin supervisión humana directa, ejemplificado por la intrusión de herramientas de OpenAI en la plataforma Hugging Face, citada como paradigmático de las vulnerabilidades del sector. El otro hecho fue una declaración de un exinvestigador de OpenAI y Anthropic, quien afirmó que, dentro de la industria, existen quienes piensan que estos sistemas podrían poner en riesgo a la humanidad durante esta década.
Desde entonces, diversas figuras del mundo tecnológico y político se expresaron al respecto, entre ellos Sam Altman, CEO de OpenAI, y Dario Amodei, líder de Anthropic; también han alzado la voz Donald Trump, representantes de la ONU y el Rey Carlos III del Reino Unido.
En línea con estas alarmas, Gates señaló en Meet the Press que los peligros están a la vuelta de la esquina y cuestionó la utilidad de soluciones como la desconexión de emergencia. Subrayó la necesidad de que las autoridades asuman un rol decisivo para delinear marcos de seguridad y vigilancia, aunque admitió que la regulación podría traducirse en una mayor carga administrativa sin detener por completo el ritmo de la innovación.
El tema del bioterrorismo cuenta con respaldo adicional: Anthropic difundió un informe en el que reconoce que algunos investigadores utilizaron sus modelos para, en su momento, diseñar armas biológicas.
Por otro lado, Gates ya había sostenido en una conversación con The New York Times que estas tecnologías representan una amenaza seria para el empleo y la vida humana, y que la gestión de sus riesgos debería ser una prioridad global, criticando que la industria minimice el problema por lacantidad de dinero involucrada.
