La gobernanza de Inteligencia Artificial en empresas se consolida como una prioridad ante brechas en ciberseguridad y explicabilidad algorítmica. Pese al avance en la adopción tecnológica en América Latina y Colombia, los comités directivos limitan la autonomía de los agentes para preservar el criterio humano y la mitigación de riesgos
La rápida expansión de la Inteligencia Artificial (IA) en las organizaciones ha trasladado el foco desde la mera automatización hacia la seguridad, la gobernanza y la explicabilidad técnica.
Aunque la integración de herramientas inteligentes avanza en múltiples sectores, la falta de trazabilidad en los algoritmos y los riesgos de ciberseguridad consolidan al criterio humano como el eje rector en las decisiones estratégicas.
La presencia de la IA en los flujos corporativos es casi generalizada, pero la autonomía total enfrenta resistencia. Según la ‘Encuesta sobre Gestión de Contenido Digital 2026’, elaborada por la firma de software Liferay a través de Pollfish entre 500 profesionales en Estados Unidos, el 86 % de las herramientas de contenido integra recursos de IA. Sin embargo, solo el 14 % de las organizaciones confía en la tecnología para publicar sin supervisión de personal especializado.
El estudio revela una transformación en la arquitectura digital: el 63 % de la gestión editorial abarca canales más allá de las páginas web y el 60 % de las entidades utiliza la misma plataforma en tres o más áreas. Al evaluar nuevas tecnologías, la seguridad y la confianza superan a la innovación en una proporción de 2 a 1 (27 % frente a 14 %).
“Las plataformas han dejado de atender exclusivamente a las áreas de marketing. Hoy en día, deben conectar diferentes departamentos, canales y experiencias digitales, garantizando gobernanza, escalabilidad e integración”, señaló Flávio Moitinho, director general de Liferay. Para responder a este escenario, la compañía habilitó la versión beta de Liferay AI Hub, una solución SaaS orientada a orquestar agentes bajo la certificación de gestión responsable ISO/IEC 42001.
¿Cómo aporta la explicabilidad en la toma de decisiones?
El debate sobre la gobernanza algorítmica gana tracción regional. El Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025, desarrollado por la Cepal y el Centro Nacional de Inteligencia Artificial (Cenia), señala que América Latina concentra entre el 15 % y el 20 % de las descargas mundiales de aplicaciones de IA generativa, a pesar de captar únicamente el 1,12 % de la inversión global en esta disciplina.
Aquí, la IA explicable (XAI) busca transparentar las variables que sustentan cada recomendación técnica. Datos de la consultora McKinsey indican que el 40 % de las entidades identifica la explicabilidad como un riesgo relevante, pero solo el 17 % mitiga esta brecha activamente.
“Cuando estos sistemas comienzan a participar en decisiones reales, necesitamos entender qué hay detrás de sus recomendaciones, cuestionarlas cuando sea necesario y evaluar sus límites”, explicó Federico dos Reis, CEO de INFORM para Latinoamérica. Para él, el juicio de las personas resulta insustituible al ponderar contextos y prioridades operativas.
¿Qué ocurre cuando la IA encuentra fallas más rápido que las personas?
El mismo patrón se observa en la ciberseguridad, aunque con una escala que obliga a repensar los tiempos. Palo Alto Networks publicó un estudio sobre NOVA (Network and Open-Source Vulnerability Analyzer), un sistema de investigación de vulnerabilidades autónomo e impulsado por IA. En una evaluación de dos meses, NOVA analizó 3.915 proyectos de código abierto e identificó 14.090 vulnerabilidades hasta entonces desconocidas; el 99,4 % no se había comunicado públicamente y cerca del 40 % se clasificó como de gravedad alta o crítica según el sistema CVSS 4.0.
A diferencia de técnicas anteriores, centradas en errores de memoria detectables mediante fuzzing, el 92 % de los hallazgos correspondió a vulnerabilidades lógicas y semánticas, como fallos de control de acceso, inyección de código o falsificación de solicitudes del lado del servidor, clases que tradicionalmente dependían del análisis manual. El estudio subraya, además, que combinar varios modelos mejora la cobertura, porque cada uno detecta fallos que los demás pasan por alto.
La consecuencia es un plazo cada vez más corto: si las fallas se descubren y validan en días, y no en meses, se reduce el tiempo disponible para evaluar el riesgo y aplicar medidas de mitigación. Aun así, la investigación insiste en que la experiencia humana sigue siendo esencial para validar los hallazgos, priorizar riesgos y coordinar la divulgación responsable.