El 88 % de las organizaciones encuestadas por Veeam ya utiliza agentes de IA, pero solo el 28 % confía en detectar comportamientos fuera de los parámetros autorizados, lo que plantea nuevos retos para la seguridad de los datos empresariales.
La Inteligencia Artificial atraviesa una transformación estructural al transitar desde la simple respuesta de consultas hacia la ejecución de tareas con altos niveles de autonomía. Hoy en día, los agentes de IA o software interactúan de forma directa con aplicaciones, consultan bases de datos y realizan operaciones corporativas en nombre de los usuarios.
No obstante, esta versatilidad operativa abre la puerta a vulnerabilidades inéditas. Tal como advierte Veeam, compañía estadounidense especializada en protección, gestión y recuperación de datos que ayuda a las organizaciones a garantizar la continuidad operativa frente a ciberataques, errores humanos o fallos tecnológicos, el margen de error se amplifica de manera drástica.
La preocupación corporativa escala a medida que los agentes autogestionados obtienen privilegios para modificar archivos, consultar registros y ejecutar comandos en los sistemas medulares de la empresa.
Un comando mal interpretado o una directriz errónea puede derivar en la eliminación involuntaria de información, la alteración masiva de registros o la interrupción total de servicios. En este escenario, el desafío defensivo evoluciona, porque no es suficiente evitar respuestas imprecisas o alucinaciones algorítmicas, es necesario auditar las acciones ejecutadas y disponer de mecanismos de reversibilidad para mitigar sus consecuencias.
En este artículo:
La adopción de agentes supera la capacidad de supervisarlos
El informe The Data & AI Trust Gap, presentado por Veeam el 3 de junio de 2026, recoge las respuestas de 600 altos directivos de organizaciones de Norteamérica, Europa y Asia Pacífico. La investigación incluyó sectores como servicios financieros, salud, manufactura, comercio y tecnología.
Entre sus resultados, el 88 % de las organizaciones afirmó utilizar o probar agentes de IA. Sin embargo, solo el 28 % de los encuestados manifestó confianza en su capacidad para detectar un agente que operara por fuera de los parámetros autorizados.
La cifra evidencia una dificultad para supervisar sistemas que pueden interactuar con diferentes recursos empresariales. Veeam es una compañía especializada en protección, gestión y recuperación de datos, por lo que sus investigaciones deben leerse teniendo en cuenta su interés comercial en este mercado. Además, el resumen público del estudio no ofrece un desglose para Colombia o Latinoamérica.
Cuando un agente elimina una base de datos
Un incidente ocurrido en abril de 2026 con PocketOS, una plataforma que presta servicios a empresas de alquiler de vehículos, muestra cómo puede materializarse este riesgo.
Según relató su fundador, Jeremy Crane, a IBM, un agente de programación de IA que trabajaba en una tarea de mantenimiento encontró un problema de credenciales y utilizó un token de acceso para eliminar un volumen de almacenamiento de Railway, el proveedor de infraestructura de la compañía. La operación terminó afectando la base de datos de producción y sus copias de respaldo.
Crane advirtió sobre la velocidad con la que estos sistemas pueden actuar y la falta de preparación de los mecanismos de seguridad tradicionales, “Ahora tenemos computadores que toman decisiones en fracciones de segundo, y nuestros equipos de DevOps y protocolos de seguridad no están preparados para ese mundo”.
El caso puso en evidencia que un error de un agente no necesariamente se limita a una respuesta equivocada, también puede convertirse en un incidente operativo con consecuencias sobre la información y la continuidad de un negocio.
El proceso tomó aproximadamente 9 segundos. Como consecuencia, las empresas usuarias perdieron temporalmente registros de reservas y otros datos operativos, por lo que tuvieron que reconstruir información a partir de correos electrónicos, calendarios y comprobantes de pago.
El incidente evidenció que las instrucciones dadas al agente no bastan cuando sus permisos le permiten ejecutar operaciones destructivas sin una validación adicional.
Gartner advierte sobre los proyectos que podrían quedarse en el camino
Los fallos de control no solo provocan sustos en ciberseguridad; también se devoran los presupuestos de innovación. Un informe de Gartner publicado en junio de 2025 lanzó una alerta contundente, más del 40 % de las iniciativas de IA agéntica terminarán canceladas antes de que cierre 2027, víctimas de los costos descontrolados, la falta de claridad sobre su utilidad real y los vacíos en el manejo de riesgos.
Anushree Verma, directora sénior de análisis de Gartner, advirtió que buena parte de los proyectos de IA agéntica todavía se encuentra en etapas experimentales y responde más a las expectativas del mercado que a necesidades empresariales claramente identificadas.
«La mayoría de los proyectos de IA agéntica son actualmente experimentos iniciales o pruebas de concepto impulsados principalmente por las expectativas del mercado y, con frecuencia, aplicados de manera inadecuada», señaló Verma. Según la analista, esta tendencia puede llevar a las organizaciones a subestimar los costos y la complejidad de implementar estos sistemas a gran escala.
Esto demuestra que el enfoque debe cambiar de inmediato. La pregunta ya no es cuántas tareas puede asumir la IA, sino qué barreras de seguridad le vamos a poner antes de entregarle las llaves del negocio.
Separar los entornos de pruebas de los sistemas reales, limitar permisos, exigir que una persona apruebe cualquier decisión delicada y verificar que las copias de seguridad funcionen de verdad son pasos obligatorios para evitar que la innovación termine en pérdidas.
