Lo que ya puede ver
En tu empresa ya hay una herramienta de inteligencia artificial conectada a algo real. Alguien de la oficina la abrió para armar estimados más rápido y para eso le dio la lista de precios. Alguien de ventas la conectó al correo. Ninguna de las dos decisiones fue mala, y ninguna quedó por escrito.
Ahí está el hueco. La herramienta se eligió con cuidado y el acceso se dio de pasada, en un clic, por quien estaba frente al teclado esa mañana. Si hoy preguntas qué archivos, qué cuentas y qué datos de clientes puede ver, lo más probable es que no haya un documento que revisar.
No es maldad, es imprevisibilidad
El 19 de octubre Microsoft lo dijo sin rodeos. Hayete Gallot, su responsable de seguridad, escribió que en los modelos de frontera, sea cual sea su origen, no se puede confiar. No porque sean maliciosos ni fáciles de hackear, sino porque son imprevisibles: se entrenaron para cumplir tareas, no para seguir las normas ni el criterio de una organización.
Satya Nadella comparó un agente ya desplegado con un empleado desleal, lo que en seguridad se llama amenaza interna. Su conclusión es la parte aprovechable: hay que separar el suministro de inteligencia de la autoridad sobre ella. La inteligencia se le compra a quien la haga mejor. La autoridad sobre lo que hace dentro de tu empresa se queda contigo.
Alcance, permiso y registro
La respuesta de Microsoft muestra la forma que tiene esa separación. Lanzó Guardian Agents para vigilar los agentes que usa una empresa, agregó a Microsoft Defender una función que detecta hasta 60 tipos de agentes que los empleados meten al trabajo, y sumó controles que limitan a qué datos y sistemas llega un agente y ajustan sus permisos según la tarea, incluido pedir aprobación humana cuando parece estar tomando una decisión riesgosa.
También entró a la Open Agent Safety Platform de Nvidia, con el apoyo de más de 100 empresas, que aísla a los agentes y puede vigilarlos y detenerlos desde el hardware. Nada de eso lo vas a comprar, y no hace falta. Las tres piezas caben en una empresa de doce personas: una lista escrita de a qué llega el software, una persona que aprueba antes de que se mueva dinero o datos de clientes, y un registro que alguien abre.
Qué cambia esta semana
Es una tarde de trabajo, no un proyecto. Tú y quien lleva la oficina anotan cada herramienta de IA en uso y, al lado, a qué está conectada. Después quitan las conexiones que nadie puede justificar y nombran los pasos que necesitan la firma de una persona: lo que sale hacia un cliente, un precio que cambia, un depósito que se mueve.
A partir de ahí tu IA deja de ser algo que alguien abrió en su laptop y pasa a ser un trabajo con límites escritos, un responsable con nombre y un registro que lees el viernes en diez minutos. La velocidad se queda. Lo que ganas es poder decir en voz alta qué tiene permitido hacer tu software.