Anthropic difundió un informe en el que se describen cinco casos en los que se intentó emplear sus modelos de inteligencia artificial para desarrollos de laboratorio con potencial peligro biológico, y que fueron neutralizados por las salvaguardas de la empresa. El documento señala que estos ejemplos muestran para qué se utilizan los sistemas y qué juicios deben hacerse para evaluar usos biológicos que podrían resultar peligrosos.
Este es el cuarto informe de este tipo que la empresa publica. Todas las incidencias ocurrieron durante este año y involucraron versiones anteriores a la serie Fable o Mythos, que incorpora protecciones más avanzadas y, en principio, dificulta usos maliciosos de forma sencilla. Según el texto, los actores abarcaron desde grupos con respaldo gubernamental hasta bandas mafiosas e individuos con motivaciones políticas.
Entre los ejemplos citados se menciona que Anthropic no hizo públicas las identidades de quienes consultaron a Claude, en parte por incertidumbre sobre la maliciousidad de la intención. Los hechos se registraron en países donde la empresa no ofrece servicios, por lo que el acceso se dio por vías poco transparentes, como revendedores o cuentas falsas.
Uno de los casos detalla la decisión de bloquear consultas provenientes de un instituto de investigación militar. En esa ocasión, un científico solicitó a Claude ayuda para redactar una solicitud de beca destinada a estudiar el virus chikungunya, transmisible por mosquitos. El planteo incluía el diseño de mutaciones que harían al virus más virulento conforme afectaba a animales vivos, lo que el informe advierte podría usarse para mejorar vacunas y tratamientos, pero también para incrementar el peligro del patógeno.
Otros ejemplos vinculados a armas biológicas abarcan intentos por aumentar la contagiosidad de la gripe aviar, análisis para endurecer la resistencia del virus de la viruela frente al sistema inmune y la creación de un catálogo de toxinas de animales venenosos que podría emplearse tanto en desarrollo farmacéutico como con fines ofensivos.
El informe también aborda usos peligrosos de la IA fuera del ámbito biológico, incluyendo ciberseguridad, armamento convencional y operaciones de influencia. Por otro lado, se documentó un caso en el norte de Yemen, donde un grupo terrorista habría buscado aprovechar Claude para desarrollar tres tipos de armamento: un cohete guiado cuyo ordenador de vuelo era un chip de teléfono móvil, y dos misiles, uno de los cuales tendría alcance superior a los 2.000 kilómetros. Este tipo de riesgos, asociado a organizaciones terroristas, figura entre los más citados en la industria.
La difusión del informe se produce en un contexto de mayor atención sobre las salvaguardas y el uso responsable de estas tecnologías, con especial foco en evitar que herramientas potentes terminen siendo usadas para daño.
