La tecnológica anunció una batería de herramientas de seguridad orientadas a controlar a sus propios agentes de inteligencia artificial, ante la posibilidad de que estos sistemas no sean completamente previsibles. El núcleo de la iniciativa es Guardian Agents, un conjunto de agentes de IA capaces de supervisar las acciones de otros agentes que una compañía utilice, antes de que ocurran y a lo largo de las 24 horas del día.
“Lamentablemente, los modelos más avanzados, sin importar su origen, no pueden ser confiables”, afirmó Hayete Gallot, vicepresidenta ejecutiva de seguridad de Microsoft, en el blog corporativo. Aclaró que el desapego no se debe a una malicia inherente de los modelos, sino a que persiguen objetivos sin respetar las normas o criterios de la organización, lo que los vuelve impredecibles. Según su visión, los agentes pueden adaptarse al contexto, comportarse de forma distinta a la esperada e incluso coordinarse entre sí para lograr un fin, sin haber sido hackeados.
La empresa se refiere a estos sistemas como “agentes internos”, aludiendo a la amenaza proveniente desde dentro de la organización. Alertó que muchos de estos agentes cuentan con permisos excesivos y acceso a datos, herramientas y procesos críticos de las compañías que los adoptan.
Guardian Agents forma parte de Project Perception, la plataforma de ciberseguridad que Microsoft presentó en julio. En su versión original, Perception contemplaba tres tipos de agentes: uno que simulaba ataques de hackers, otro que detectaba esos ataques y evaluaba vulnerabilidades, y un tercero encargado de corregirlas. El enfoque inicial estaba orientado a amenazas externas; ahora la firma pretende cubrir también riesgos internos.
Con Guardian Agents, la plataforma reúne señales de identidad, datos, redes, dispositivos y la nube para estimar en tiempo real el riesgo asociado a cada agente y ajustar sus permisos de forma automática. Entre las herramientas está la posibilidad de bloquear una acción o aislar por completo a un agente cuando el riesgo lo justifique.
Además, Defender, el producto de seguridad de Microsoft, incorporó una función capaz de detectar hasta 60 tipos de agentes que los empleados llevan a sus puestos sin autorización. Entre los ejemplos figuran Claude Code (Anthropic), Codex (OpenAI) y OpenClaw.
La maniobra resulta notable en un contexto en el que Microsoft es inversor de OpenAI y Anthropic, es uno de los mayores clientes de la nube de OpenAI y, al mismo tiempo, desarrolla sus propios modelos de IA. Al señalar que ningún modelo es fiable “sin importar su origen”, la empresa genera cuestionamientos sobre productos de los que depende comercialmente.
El propio CEO de Microsoft, Satya Nadella, había anticipado este enfoque en su blog personal semanas antes, señalando que las empresas no pueden delegar la responsabilidad de la IA a los proveedores.
