Los agentes de Inteligencia Artificial pueden consultar información, ejecutar tareas y actuar sobre sistemas corporativos. Microsoft plantea que su supervisión debe ser continua, mientras crece su adopción en el sector tecnológico colombiano.
La Inteligencia Artificial está pasando de responder preguntas a ejecutar tareas dentro de las empresas. Los agentes de IA pueden analizar información, procesar gastos, desarrollar código e interactuar con diferentes aplicaciones. Sin embargo, esa autonomía también abre una nueva superficie de riesgo: ¿qué ocurre cuando un sistema accede a más información de la necesaria o actúa de una forma distinta a la esperada?
En este artículo:
Microsoft propone vigilar a los agentes de IA en tiempo real
Microsoft publicó un análisis sobre los riesgos de seguridad de estos sistemas y la necesidad de supervisar sus acciones de manera continua. La compañía advierte que los agentes pueden cometer errores, ser manipulados o utilizar de forma indebida los permisos que reciben.
La preocupación no se limita a los ataques externos. Un agente desplegado por la propia organización también puede convertirse en un riesgo si tiene acceso excesivo a datos, aplicaciones o procesos críticos.
Para responder a este panorama, Microsoft amplió las capacidades de su iniciativa de seguridad ‘Project Perception’ (proyecto percepción) y presentó los llamados ‘Guardian Agents’ (agentes guardianes), diseñados para supervisar la actividad de otros agentes y ayudar a detectar y contener comportamientos riesgosos. La propuesta incluye controles sobre identidades, permisos, datos y sistemas, con ajustes de acceso según el nivel de riesgo.
El planteamiento de fondo es que las empresas no deberían depender únicamente de que un modelo de IA se comporte correctamente: necesitan controles independientes que limiten sus acciones y permitan rastrear lo ocurrido.
La advertencia también alcanza a los agentes que usan las empresas
El riesgo no se limita a los sistemas utilizados por ciberdelincuentes. En junio de 2026, investigadores de la Universidad de Washington evaluaron siete navegadores con agentes de IA y encontraron que cuatro presentaban formas de eludir una protección de seguridad diseñada para impedir que sitios web accedan a información de otros sitios.
El equipo también demostró un ataque de prueba de concepto relacionado con la denominada inyección de instrucciones (prompt injection) inyección de proyección. Esta técnica consiste en introducir instrucciones maliciosas en contenido que un agente procesa, con el objetivo de alterar su comportamiento.
Por ejemplo, un agente encargado de resumir una página web podría encontrar instrucciones ocultas que intenten inducirlo a compartir información o enviar datos a un formulario externo.
Los hallazgos no significan que todos los agentes sean vulnerables de la misma manera, pero sí muestran por qué necesitan controles adicionales cuando interactúan con información sensible.
Colombia también enfrenta el desafío de asegurar la IA
La adopción de Inteligencia Artificial en el sector tecnológico colombiano ya está pasando de las pruebas a la operación. Un sondeo de la Federación Colombiana de la Industria de Software y TI (Fedesoft) y el Centro de Innovación y Productividad del Software y Tecnologías de la Información (Cenisoft), realizado entre abril y mayo de 2026 a 104 empresas del sector, encontró que el 66,3 % ya tenía soluciones de IA en producción y que el 32,7 % utilizaba agentes de esta tecnología.
Además, el 81 % consideraba que estos sistemas serían una prioridad alta o muy alta durante los siguientes dos años. Aunque los resultados corresponden al sector tecnológico consultado, muestran por qué la seguridad y la supervisión de los agentes empiezan a ser asuntos relevantes para las empresas del país.
Entre las organizaciones que avanzaban en su adopción, el 60 % buscaba mejorar la productividad y optimizar procesos internos.
Los resultados corresponden a empresas de software y tecnologías de la información, por lo que no representan a todo el tejido empresarial colombiano. Sin embargo, muestran que la incorporación de IA requiere capacidades técnicas y organizacionales que van más allá de poner una herramienta en funcionamiento.
Quién responde cuando algo sale mal
A medida que los agentes asumen más tareas, las empresas necesitan distinguir entre automatizar un proceso y delegar decisiones sin suficientes límites. Un error en una respuesta puede corregirse; una acción ejecutada sobre una base de datos, una cuenta o un sistema corporativo puede tener consecuencias mayores.
Por eso, la adopción de agentes de IA requiere controles proporcionales a los permisos y al impacto de sus acciones. La cuestión ya no es únicamente qué tan inteligente puede ser un sistema, sino qué puede hacer, bajo qué condiciones y quién responde cuando algo sale mal.
