¿Quién responde cuando la IA se equivoca? Jaime Mourão, de Bluetab, explica a Impacto TIC por qué la gobernanza de datos es el punto de partida.
Con la gobernanza de datos una cosa es la teoría y otra, la práctica. Aunque la hoja de ruta y las pautas en los procesos de implementación tecnología, específicamente de Inteligencia Artificial, en empresas llegan a ser muy precisas, lo cierto es que el uso no autorizado de herramientas, el fraude digital sofisticado, la falta de gobierno de datos y el despliegue de agentes sin supervisión humana ponen en riesgo la seguridad y las operaciones, es decir, la implementación de IA avanza sin gobernanza de datos.
El Informe sobre Adopción y Gobernanza de IA Agéntica 2026 de Liferay se basó en una encuesta a 500 profesionales en Estados Unidos. Allí, el 54 % dijo que su empresa ya tiene agentes de IA en producción o en piloto, pero apenas el 24 % cuenta con una política de uso para toda la organización. En la misma línea, el IBM Institute for Business Value reporta que solo el 39 % de los CEO dice tener una buena gobernanza de IA generativa.
En entrevista con Impacto TIC, Jaime Mourão, Country Manager de Bluetab (an IBM Company) en Perú y Colombia, planteó que la gobernanza de datos es el punto de partida para saber quién responde cuando la Inteligencia Artificial se equivoca. Sin datos trazables y auditables, advirtió, ningún algoritmo puede ser responsable.
Mourão lleva cerca de año y medio en Bluetab. Antes pasó por Stefanini Group y por BBVA. Hace 30 años analizaba estados financieros a mano en Excel, y hoy, a sus 53 años, no solo es usuario de Inteligencia Artificial, sino que trabaja, precisamente, para que la adopción sea bajo el marco de la gobernanza.
En este artículo:
¿Por qué tantas empresas usan IA sin saber para qué?
La Inteligencia Artificial ya está en la agenda de todos los comités de dirección, sin importar el tamaño de la empresa. El problema, según Mourão, es la prisa. “Existe una ansiedad por el uso de la Inteligencia Artificial y no saben para qué”, afirmó.
Lo primero, dice, es sacarse de la cabeza el alarmismo: “Las empresas deben dejar de verla como una fuerza mágica, destructiva. Lo que realmente es, es una herramienta de aceleración de capacidades basadas en datos de calidad”. Su consejo es identificar un problema concreto antes de elegir la herramienta. Si eso no se hace, el resultado es “OPEX botado a la basura”.
¿Qué tiene que ver la gobernanza de datos con los errores de la IA?
Para explicar el concepto, Mourão habla del “viaje del dato”: saber de dónde viene la información, cómo se limpió, cómo se ordenó y dónde está alojada. Funciona como la trazabilidad de un alimento, que permite saber en qué punto de la cadena apareció el problema.
“Cuando no hay gobernanza de datos, cuando no existe ese linaje de data, la Inteligencia Artificial podría dar datos equivocados y es muy difícil corregir”, explicó. Lo ilustra con un caso cercano a su oficio de analista. Si los estados financieros de una empresa de los últimos 10 años están en archivos de Excel que alguien pudo alterar, y con ellos se le pide un informe a la IA, “te va a salir cualquier cosa”.
De ahí nace su respuesta a la pregunta por la responsabilidad: “Si no hay gobierno, no puede ser auditable. Porque no hay responsables”.
“La IA responsable no es un sello de marketing, de publicidad. Finalmente, es una práctica de ingeniería”, señaló Mourão.
¿Dónde termina la autonomía de la máquina y empieza la decisión humana?
¿Quién responde cuando la IA se equivoca? Cuando un algoritmo niega un crédito por error o descarta una hoja de vida sin razón aparente, surge la pregunta de quién responde, siempre debe haber un humano detrás. “La Inteligencia Artificial, yo creo que más es un copiloto; el piloto son las personas”, resume Mourão.
Pone el ejemplo de una clínica. La IA puede sugerir un diagnóstico a partir de unos síntomas, pero su interpretación depende del criterio y la experiencia del personal médico. Por eso exige supervisión humana permanente, sobre todo en la IA agéntica: “Es una IA que aprende sola y tiene que estar detrás un ser humano viendo exactamente qué está pasando”.
Hay una idea que repite casi como un principio: “No le puedes exigir ética a una Inteligencia Artificial si los humanos que la diseñamos no definimos las reglas del juego y no usamos los datos correctos”.
Para trazar el límite propone cuatro requisitos:
- Transparencia: explicar por qué se usa IA en decisiones como otorgar un crédito.
- Equidad: leer los datos históricos y los resultados con sensibilidad humana.
- Cumplimiento regulatorio: un frente que la Unión Europea ya trabaja y que en Latinoamérica “se está escribiendo”.
- Supervisión humana constante.
“La IA agéntica es una IA que aprende sola y tiene que estar detrás un ser humano viendo exactamente qué está pasando”, insistió. Y remató: “No le puedes exigir ética a una Inteligencia Artificial si los humanos que la diseñamos no definimos las reglas del juego y no usamos los datos correctos”.
¿Por qué la cultura pesa más que la tecnología?
“La cultura de una empresa no la construyes en muy poco tiempo”, dice. En las organizaciones que visita, de sectores como banca, salud o educación, encuentra personas usando IA por su cuenta sin que las áreas centrales lo sepan. “No puedes usar la IA debajo de la alfombra, sin que nadie se dé cuenta, para terminar más rápido mi trabajo”, advirtió.
Para las compañías que arrancaron, o que están arrancando, sin orden, el diagnóstico es solo uno, habrá que reiniciar. “Es muy difícil darle gobernanza sobre la marcha. Yo te diría que tienes que empezar de cero”.
El reto alcanza a organizaciones de cualquier tamaño. La gobernanza de datos, además, exige mantenimiento permanente porque la información no deja de crecer. Su mensaje final, para empresas de cualquier tamaño, cabe en una frase: “No existe una IA responsable si no hay una data responsable”.