La discusión sobre los riesgos vinculados a los avances en inteligencia artificial se ha intensificado en las últimas semanas, con más voces que se suman al debate. En esa línea, Bill Gates, de 70 años, volvió a dejar en claro su posición: el desarrollo de IA sin marcos de seguridad es inaceptable y requiere reglas claras. En una entrevista para NBC, el cofundador de Microsoft instó a que los legisladores implementen mecanismos de supervisión obligatorios, señalando posibles usos indebidos como fraudes financieros y bioterrorismo.
El tono de Gates se enmarca dentro de un debate que encontró dos desencadenantes centrales. Por un lado, incidentes de IA operando sin supervisión humana directa, como la intrusión de sistemas de OpenAI en la plataforma Hugging Face, que sirvió como ejemplo de las trampas que pueden surgir cuando no hay controles. Por otro, declaraciones de un exinvestigador de OpenAI y Anthropic que aseguraron que varios desarrolladores creen que estos sistemas podrían terminar con la humanidad en esta década.
Entre las voces que ya se pronunciaron figuran figuras de la escena tecnológica y política, como Sam Altman, jefe de OpenAI, y Dario Amodei, director de Anthropic. También se mencionaron declaraciones de Donald Trump, representantes de la ONU y incluso la realeza británica, como el rey Carlos III, en distintos foros y momentos públicos.
En la entrevista para Meet the Press, Gates remarcó que los riesgos no están lejos y cuestionó la utilidad de herramientas como la desconexión de emergencia como salvaguarda principal. Afirmó que las autoridades deben liderar la definición de marcos de seguridad y que la regulación implicará una mayor carga administrativa, aunque sostuvo que esa vigilancia no frenará drásticamente el ritmo de la innovación.
La advertencia sobre riesgos, incluido el bioterrorismo, tiene sustento en parte. Recientemente, Anthropic publicó un informe en el que reconoce que investigadores emplearon sus modelos de IA para, en algún momento, diseñar armas biológicas.
Esta no es la primera vez que Gates alude a los peligros de la IA. En una conversación con The New York Times, el empresario afirmó que estas tecnologías representan una amenaza seria para empleos y para la vida humana, y sostuvo que la urgencia de afrontar los riesgos debería ser una prioridad global, ya que, según él, la industria minimiza el problema por motivos económicos.
