Satya Nadella, máximo responsable de Microsoft, elevó en las redes su postura sobre cómo deben gestionarse las IA en las empresas. En una publicación en Twitter/X, defendió que la confianza en los sistemas de inteligencia artificial debe ir acompañada de observabilidad, permisos y vigilancia independiente, y no de una confianza sin comprobaciones en el propio modelo.

Según el directivo, hoy coexisten dos conceptos que suelen confundirse: la generación de inteligencia y la autoridad para actuar con esa inteligencia. Su propuesta llega en un contexto donde las compañías recurren a agentes de IA dentro de sistemas con datos sensibles, sin ofrecerse una explicación clara de por qué las decisiones se toman como se dan. En ese marco, Nadella plantea desplazar la responsabilidad de la seguridad desde el modelo hacia el entorno que lo contiene.

El origen de su argumento es técnico y, a la vez, sencillo de entender: mientras que en el software tradicional era posible rastrear un comportamiento hasta una línea de código, en los modelos actuales eso ya no es factible. Esa dificultad alimenta el concepto de las IA como cajas negras y refuerza la idea de que la seguridad no puede depender de una confianza ciega en el modelo, sino del diseño del entorno que lo rodea.

De allí surge su consigna central: construir sistemas contenidos cuyos comportamientos sean observables, cuyos límites se puedan verificar y cuyas acciones permanezcan contenidas. Para Nadella, la observación deja de ser un complemento para convertirse en una condición previa para cualquier forma de confianza.

Esta idea se conecta con una publicación previa del ejecutivo, en la que ya había defendido que la tecnología debe estar bajo control humano. Si la IA que se diseña no ayuda a la humanidad y no está gobernada por una supervisión humana, no vale la pena desarrollarla, afirmó.

Otro punto clave es su contundente rechazo a externalizar la responsabilidad de lo que la IA hace en nombre de una organización. En la práctica, los agentes de IA ya no operan sólo como generadores de texto: actúan en nombre de las empresas desplegando herramientas que pueden tomar decisiones y ejecutar acciones sobre sistemas reales.

Ante ese escenario, Nadella advierte que las garantías ofrecidas por el proveedor no eximen a la empresa usuaria de asumir las consecuencias de sus actos; la responsabilidad, sostiene, recae siempre en quien despliega la tecnología, no en quien la fabrica.

La propuesta concreta para gestionar ese riesgo es tratar a los modelos de IA como se trataría a un empleado con amplios permisos, dentro de un marco de gobernanza que permita observar su conducta, probar sus límites y contener sus posibles impactos.