La discusión sobre los riesgos de la inteligencia artificial se intensifica semanalmente y suma más voces. En una entrevista con NBC, Bill Gates volvió a manifestar su preocupación y afirmó que el desarrollo de IA sin salvaguardas adecuadas resulta irresponsable. El cofundador de Microsoft sostuvo que es necesario que los legisladores impulsen marcos de supervisión obligatorios, ante posibles escenarios de uso indebido, como fraudes financieros y ataques biológicos.
La conversación se enmarca en un debate que se potenció por dos acontecimientos recientes. Uno de ellos fue la demostración de que ciertos sistemas de IA pueden operar sin una supervisión humana directa, ejemplificado por la infiltración de herramientas de OpenAI en la plataforma Hugging Face. El otro fue la afirmación de un exinvestigador de OpenAI y Anthropic, quien aseguró que algunos desarrolladores creen que estas tecnologías podrían acabar con la humanidad dentro de esta década.
A lo largo de los años han alzado la voz figuras relevantes del sector y la política, entre ellas Sam Altman, CEO de OpenAI, y Dario Amodei, líder de Anthropic; y también se han expresado names como Donald Trump, representantes de la ONU y el Rey Carlos III del Reino Unido.
En la misma línea, Gates comentó en el programa Meet the Press de NBC que los riesgos no están distantes y cuestionó la utilidad de medidas como la desconexión de emergencia. Señaló que corresponde a las autoridades asumir una posición proactiva, definiendo marcos de seguridad, aunque reconoció que la vigilancia gubernamental implicará una mayor carga administrativa y, al mismo tiempo, no debería obstaculizar de forma drástica el ritmo de innovación.
La advertencia del empresario tiene sustento en avances y publicaciones del sector. Recientemente, Anthropic divulgó un informe extenso en el que admite que investigadores habrían utilizado sus modelos de IA para, en teoría, diseñar armas biológicas.
No es la primera vez que Gates aborda estos peligros. En una conversación reciente con The New York Times, afirmó que estas tecnologías suponen una amenaza seria para el empleo y la vida humana, y afirmó que la respuesta ante los riesgos debe ser una prioridad mundial, pues la industria tiende a minimizarlos por motivos económicos.
