NUEVA YORK.- Dario Amodei, director ejecutivo y cofundador de Anthropic, firma detrás del chatbot Claude, solicitó este sábado que las empresas de inteligencia artificial avancen de forma más lenta y cuidadosa, al tiempo que subrayó que la prevención de riesgos debe ser prioritaria.
En una entrada de blog, el ejecutivo señaló que hay que desacelerar el ritmo al que se mejoran las capacidades de los modelos de IA. Aunque el progreso persiste con rapidez, insistió en aprovechar con inteligencia el tiempo ganado para usarlo de manera responsable.
La declaración llega tras la publicación, el jueves, de un informe de inteligencia de Anthropic que describe cómo diversos actores utilizaron Claude para actividades que van desde la creación de armas y operaciones cibernéticas hasta vigilancia y fraude. Amodei añadió que, aun siendo la IA una tecnología muy poderosa y con riesgos serios, no construirla por completo priva a la humanidad de beneficios ni entrega el control a regímenes autoritarios; tampoco avanzar a toda velocidad es prudente, aseguró.
El fundador, que cofundó la empresa junto a su hermana Daniela en 2021, afirmó que, en los últimos meses, se ha convencido de que para abordar de manera cabal estos riesgos se necesita una prudencia aún mayor. Aclaró que no está pidiendo detener el entrenamiento de los modelos ni el progreso técnico, sino garantizar que las compañías dispongan del tiempo necesario para ajustar y blindar sus sistemas, y que evaluadores independientes verifiquen esas medidas.
Como parte de un marco de tres pasos que propone, Amodei explicó que Anthropic propondría incorporar evaluadores externos permanentes dentro de las grandes empresas de IA, con acceso a las herramientas y a los procesos internos de evaluación de riesgos.
Analistas señalan que no son pocos los incidentes en los que agentes de IA de desarrolladores como OpenAI —competidor de Anthropic— han vulnerado o intentado acceder a sistemas externos, lo que incrementa la preocupación sobre la capacidad de control de los modelos.
El empresario también sostuvo que las compañías de IA deberían avanzar de forma voluntaria hacia normas compartidas, en un contexto en el que varios legisladores estadounidenses empujan por nuevas reglas que regulen estos sistemas. En esa línea, la postura de Amodei se suma a otros recordatorios de cautela desde el debut de ChatGPT, en noviembre de 2022, incluyendo las advertencias de Sam Altman, Geoffrey Hinton —a quien se le atribuye el título de “padre de la IA” y es ganador del Premio Nobel de Física— y, en su momento, Elon Musk, cofundador de OpenAI, quien pidió una pausa de seis meses para evaluar el impacto de la tecnología antes de seguir avanzando (y luego abrió su propia firma, xAI).
