Anthropic publicó un informe en el que detalla cinco situaciones bloqueadas en las que se intentó emplear su IA Claude para trabajos de laboratorio con posible desarrollo de armas biológicas. La compañía señala que estos ejemplos muestran las tareas para las que se usan sus modelos y los criterios que emplean para evaluar si un uso biológico podría ser peligroso.

Este es el cuarto texto de este tipo que difunde la firma. En el reporte también se mencionan otros usos arriesgados de la IA, como en ciberseguridad, armas convencionales y operaciones de influencia. Todos los casos ocurrieron este año y se basaron en versiones anteriores de Claude, menos potentes que las versiones más recientes de las familias Fable y Mythos, que incorporan salvaguardas más sofisticadas. Los actores involucrados varían desde grupos con respaldo estatal hasta mafias o individuos con motivaciones políticas.

Entre los usos para armamentos convencionales, se destaca un intento en el norte de Yemen dirigido a un grupo terrorista, que buscaba tres tipos de tecnologías: un cohete guiado cuyo ordenador de vuelo sería un chip de teléfono móvil, y dos tipos de misiles, uno de los cuales tendría un alcance superior a los 2.000 kilómetros. Este caso figura entre los más citados como de alto riesgo.

En lo que respecta a las armas biológicas, se trata del mayor peligro señalado en el informe. La firma no identifica a los autores de las consultas a Claude en muchos casos, en parte porque no siempre es claro si la solicitud es maliciosa. Estas situaciones se produjeron en países donde Anthropic no ofrece servicios, lo que llevó a que actores accedieran al programa Claude por vías oscuras, como revendedores o cuentas falsas.

En uno de los ejemplos, Anthropic decidió bloquear la consulta porque provenía de un instituto de investigación militar. Un científico pedía ayuda para redactar una solicitud de beca para estudiar el virus chikungunya, enfermedad transmitida por mosquitos. Aunque esa línea de investigación podría respaldar el desarrollo de vacunas, también podría facilitar mutaciones del patógeno para hacerlo más dañino al infectar animales vivos repetidamente. Según el informe, “este tipo de investigación podría emplearse para vacunas y tratamientos, pero también podría usarse para aumentar la peligrosidad del virus”.

El resto de los casos incluirían intentos para hacer la gripe aviar más contagiosa, analizar la viruela con mayor resistencia al sistema inmune y crear un catálogo de toxinas de animales venenosos para posibles usos peligrosos. El documento subraya el desafío de equilibrar la innovación tecnológica con la seguridad y la prevención de daños.