Por: Isabel Cristina de Ávila Benítez
Profesional Senior de Asuntos Corporativos, Ecopetrol.
Gobernanza & liderazgo: la responsabilidad humana que la Inteligencia Artificial no puede asumir
La adopción acelerada de la Inteligencia Artificial ha llevado a muchas organizaciones a centrar sus esfuerzos en desarrollar capacidades tecnológicas. Sin embargo, la pregunta verdaderamente estratégica ya no es qué tan avanzada es la herramienta, sino ¿hasta qué punto puede delegarse una decisión en un sistema de Inteligencia Artificial?
Existe una diferencia esencial entre inteligencia y juicio. Un sistema de IA puede procesar enormes volúmenes de información, identificar patrones y generar recomendaciones con rapidez y precisión, pero carece de los componentes que sustentan el criterio humano: valores, experiencia, contexto, deliberación, ética y capacidad para asumir las consecuencias de una decisión. Esta distinción ha dejado de ser una reflexión filosófica, para convertirse en un principio de gobierno corporativo. Los principales estándares internacionales coinciden en que la Inteligencia Artificial debe permanecer bajo supervisión humana y que la responsabilidad nunca puede transferirse a un algoritmo.
La Recomendación sobre la Ética de la Inteligencia Artificial de la Unesco establece que los sistemas de IA deben desarrollarse y utilizarse preservando la dignidad humana, garantizando siempre la intervención y la rendición de cuentas de las personas. En esta misma línea, los Principios sobre Inteligencia Artificial de la Ocde promueven sistemas robustos, transparentes y gobernados mediante mecanismos claros de responsabilidad.
Este enfoque también se refleja en el AI Act de la Unión Europea, primer marco regulatorio integral sobre Inteligencia Artificial. Su lógica es categórica: a mayor riesgo del sistema, mayores obligaciones de supervisión humana, gestión del riesgo, documentación y control por parte de las organizaciones que lo implementan.
La evolución normativa también ha impulsado nuevos estándares de gestión: el AI Risk Management Framework del National Institute of Standards and Technology (Nist) propone que la administración de los riesgos asociados a la IA comience por la función ‘Govern’, situando la gobernanza, la asignación de responsabilidades y la cultura organizacional como eje transversal de todo el ciclo de vida de los sistemas de Inteligencia Artificial.
Los mensajes de la comunidad internacional han sido claros e inequívocos: la Inteligencia Artificial puede asistir el proceso de decisión, pero nunca sustituir la responsabilidad, el criterio ni el discernimiento de quien decide.
Este principio redefine el liderazgo. Históricamente, los directivos debían decidir con información limitada. Hoy enfrentan un gran reto: gestionar una sobrecarga de información generada por sistemas cada vez más potentes. En este contexto, el criterio se convierte en un activo estratégico. La ventaja competitiva ya no depende únicamente de contar con mejores algoritmos, sino de la capacidad que tiene el líder para interpretar sus resultados, cuestionarlos y comprender sus implicaciones jurídicas, reputacionales, sociales, éticas y corporativas.
No podemos caer en la práctica de utilizar la Inteligencia Artificial como argumento para diluir responsabilidades. He conocido personas en posición de liderazgo que utilizan la expresión «como eso fue lo que recomendó el algoritmo».
Esta postura es incompatible con los principios modernos de gobierno corporativo. Los algoritmos no tienen personalidad jurídica, no comparecen ante el poder judicial, no responden frente a juntas directivas ni asumen ningún tipo de deberes. La responsabilidad continúa recayendo sobre quienes diseñan, implementan, supervisan y utilizan la tecnología.
La confianza siempre será el principal indicador del éxito de una organización en la adopción de la Inteligencia Artificial. Clientes, inversionistas, reguladores, colaboradores y ciudadanos no van a evaluar únicamente la eficiencia de los sistemas: también evalúan la solidez de los mecanismos de gobernanza que respaldan su utilización. La confianza ya no depende exclusivamente del desempeño tecnológico, sino de la capacidad de las organizaciones para demostrar transparencia, supervisión humana y rendición de cuentas.
El mayor temor no es la adopción de la Inteligencia Artificial: es creer que esta puede reemplazar el juicio humano. Delegar el criterio en un algoritmo compromete la confianza y expone a las instituciones a riesgos cada vez más complejos. El reto de los líderes no consiste únicamente en acelerar la Transformación Digital, sino en fortalecer los mecanismos que aseguren que toda decisión conserve un responsable.
La Inteligencia Artificial seguirá evolucionando y el modelo de liderazgo debe hacerlo aún más rápido, porque la tecnología puede ampliar nuestras capacidades, pero la responsabilidad, la razón, el criterio, el discernimiento y la sensatez para ejercerla seguirán siendo exclusivamente de nosotros los humanos.
«Los algoritmos no tienen personalidad jurídica, no comparecen ante el poder judicial, no responden frente a juntas directivas ni asumen ningún tipo de deberes».
5 puntos clave
- La Inteligencia Artificial puede asistir la toma de decisiones, pero la responsabilidad final nunca se delega en un algoritmo.
- Unesco, la Ocde, la Unión Europea y el Nist coinciden: a mayor uso de IA, mayor exigencia de supervisión humana y rendición de cuentas.
- Usar la frase «eso fue lo que recomendó el algoritmo» para diluir responsabilidades es incompatible con el gobierno corporativo moderno.
- El criterio humano –valores, experiencia, ética, contexto– es el activo que ningún sistema de IA puede reemplazar.
- La confianza de clientes, inversionistas y reguladores dependerá cada vez más de la solidez de la gobernanza de IA, no solo de su desempeño técnico.
Nota editorial de Voces TIC: Para ampliar esta discusión sobre gobernanza y ciberresiliencia, vea «La IA es un asunto de Estado», de Alejandro Toro Ramírez y «Ciberresiliencia digital: de la estrategia a una capacidad país que genera confianza», de Jorge Fernando Bejarano.