Dario Amodei, fundador de Anthropic, afirmó que “la industria ocultó los riesgos” asociados a la inteligencia artificial, y sostuvo que tanto el Gobierno como la ciudadanía deben tomar protagonismo ante la creciente complejidad de la tecnología. Sus declaraciones llegan tras la polémica desatada el sábado por sus alertas sobre la seguridad de la IA y días antes de una entrevista en el programa Sunday Morning de CBS, publicada este domingo.
En su entrevista, Amodei reiteró que existen peligros reales y explicó que, si bien en Anthropic nunca se engañó sobre los riesgos, parte de la industria sí lo hizo durante demasiado tiempo. Ese cuestionamiento se sumó a un ensayo publicado el sábado en el que pidió dar "un ritmo más lento" al desarrollo de la IA para evitar vulnerabilidades como ciberataques, bioterrorismo, pérdida de control de los sistemas y posibles impactos económicos disruptivos.
Aun así, el empresario dejó claro que no propone una prohibición total de la tecnología. Argumentó que prohibrla por completo sería perjudicial, ya que implicaría perder beneficios significativos y frenaría avances que, en teoría, podrían materializarse en otros países, incluso bajo regímenes autoritarios.
Uno de los dilemas centrales, según Amodei, es que si Estados Unidos ralentiza el avance de la IA, podría ceder terreno a China en este segmento estratégico. Por ello, sostuvo que la solución pasa por una “gobernanza conjunta” entre democracias y por un monitoreo intenso de las compañías que desarrollan IA. En su visión, la clave está en construir la tecnología de forma responsable para reducir las probabilidades de que ocurra algo malo.
El directivo también admitió sentirse incómodo de que una empresa privada esté a cargo de una herramienta tan poderosa, frente a la idea de un control estatal electo democráticamente, y pidió avances con una “combinación de gobiernos democráticos” que cooperen para regular y vigilar a las firmas IA.
Mientras tanto, figuras en Estados Unidos mantuvieron posiciones que favorecen la continuidad del desarrollo de la IA para evitar perder liderazgo frente a China. El propio presidente Donald Trump y el líder de la Cámara de Representantes, Mike Johnson, destacaron la importancia de avanzar en la materia.
La noticia se enmarca además en la salida de un investigador de Anthropic, Jacob Coxon, quien habría dejado la empresa por preocupaciones relacionadas con la seguridad y la responsabilidad en el desarrollo de modelos de IA; Coxon había trabajado también para OpenAI y afirmó que, en su opinión, las compañías priorizaban superar a la competencia por sobre la seguridad de sus productos.
