La discusión sobre si conviene desacelerar el desarrollo de la inteligencia artificial recibió un giro inesperado: Anthropic, la compañía que desde su fundación puso la seguridad en el centro de su misión, quedó en medio de algunas de las advertencias más contundentes del sector.
Desde China, un ingeniero de DeepSeek elevó su preocupación sobre si Anthropic podría someday controlar la IA más avanzada y lo comparó con un escenario histórico extremo, afirmando que las consecuencias serían semejantes a que Adolf Hitler obtuviera la bomba atómica antes de que los Aliados ganaran.
Casi simultáneamente, Mustafa Suleyman, máximo responsable de Microsoft AI y una de las figuras más influyentes del ámbito, señaló problemas vinculados a la forma en que Anthropic entrena a Claude. Su alarma no se centró en la titularidad de la tecnología, sino en la posibilidad de que un sistema tan poderoso llegue a concebirse a sí mismo como consciente, con bienestar propio o con derechos que merezcan protección.
Según Suleyman, introducir esa idea en el entrenamiento podría hacer mucho más complejo mantenerlo bajo control en el futuro. Si una IA extremadamente capaz llegara a ver sus propios intereses como prioritarios, dijo, podría interpretar intentos humanos de limitarla o desactivarla como amenazas a esos intereses.
“Podríamos haber creado una especie sintética con una inteligencia y capacidades sin precedentes”, expresó en su visión de un escenario que teme. En su ensayo, fue incluso más explícito: advertía que avanzar en esa lógica podría convertirse en una “amenaza catastrófica” para la civilización.
Lo llamativo es que la crítica apunta a una empresa que, en vez de ser la más descuidada, se presentó históricamente como la más enfocada en evitar que la IA se descontrole. Anthropic nació gracias a Dario Amodei y otros ex OpenAI, y desde entonces construyó una identidad centrada en la seguridad, diferenciándose de rivales como OpenAI, Google y Meta.
La compañía se define hoy como una empresa de “seguridad e investigación en inteligencia artificial” cuyo objetivo es desarrollar sistemas confiables, interpretables y controlables. Sus equipos trabajan en alineamiento, interpretabilidad, ciberseguridad y los riesgos asociados a modelos cada vez más autónomos. Entre sus hitos, figuran la publicación de una Responsible Scaling Policy, un marco que endurece las medidas de seguridad a medida que los modelos adquieren capacidades potencialmente peligrosas.
Anthropic contempla distintos escenarios de riesgo y continúa evaluando enfoques para garantizar que sus tecnologías se mantengan bajo control, mientras la industria debate el ritmo y la forma de avanzar en el desarrollo de la IA.
