Al hablar de Inteligencia Artificial, lo primero que suele saltar a la cabeza son empresas privadas: Google, OpenAI, Amazon, Anthropic, etc. Sin embargo, el impacto de la IA sobre el sector público puede ser mayor. Recordemos que, según estimaciones de la OIT, algo más de una décima parte del total mundial de la ocupación trabaja en el sector público.
Es decir, si hablamos de número de empleados y sus clientes (ciudadanos), el uso de la Inteligencia Artificial en las organizaciones estatales puede afectar a más personas, incluyendo aquellas alejadas de la tecnología, y sus desafíos también pueden ser mayores.
Para entender esta problemática, Impacto TIC, con el apoyo de Grow Data, Fortinet y Adistec, llevó a cabo el foro TIC: ‘Vulnerabilidades no Visibles, el Desafío en torno a la IA Generativa en el Sector Público’. Un espacio que contó con representantes de la academia, el sector privado y el gubernamental.
En este espacio, Juan Manuel Vicaría, profesor y director de un centro de Inteligencia Artificial para directivos en Inalde, recuerda: “hemos estado haciendo paralelos entre lo que sucede en el sector público y el privado, con respecto a esta adopción de la IA, y hemos encontrado diferencias, similitudes y retos en común”.
Índice de temas
Conociendo los Retos
En lo que se refiere a las principales diferencias del sector público en comparación con el privado, Vicaría resalta cómo para el sector gubernamental la interoperabilidad es un “tema enorme”, ya que se habla de la interconexión de datos que afectan a todos los colombianos. El sector privado, en cambio, maneja esta cuestión a una escala menor, dentro de una empresa o un grupo empresarial.
Otra diferencia crucial radica en la envergadura de la gobernanza. En este punto, para el sector público se necesita una unificación para disminuir no solo los riesgos de ciberseguridad. La gobernanza pública es radicalmente distinta a la privada, requiriendo decisiones coordinadas y una arquitectura estandarizada debido a la responsabilidad con la ciudadanía. En contraste, en el sector privado, la gobernanza se resuelve a lo sumo entre un grupo empresarial o entre una empresa.
Javier Eduardo Fernández, gerente comercial y mercadeo sector gobierno y corporativo en Grow Data, agrega: “el hecho de cómo se va adoptando la IA hace muy importante que, si no hay una política general desde las instituciones y desde el gobierno, y nosotros como terceros apoyándola, pueden generarse decisiones que se vuelven individuales y no institucionales, y esto afecta la credibilidad de las instituciones tanto públicas como privadas”.
Normativas y esfuerzos estatales
Para afrontar los diferentes desafíos de la adopción tecnológica de la IA en el sector público, Natalia del Pilar Albañil, Subdirectora de Fortalecimiento de Capacidades Públicas Digitales, recordó cómo “Colombia lleva más de dos décadas trabajando en una política de gobierno digital”.
Albañil destaca cómo esta normatividad ha sido un esfuerzo permanente y evolutivo que ha incorporado desde la penetración misma de Internet en entidades públicas y la digitalización de trámites hasta la implementación del Conpes 4144 referente a la Inteligencia Artificial.
“Uno de sus componentes de este Conpes justamente va a los temas de fortalecimiento de capacidades, que es el área que tengo el honor de liderar dentro del Ministerio”, dijo Albañil, a lo que agregó:
“Le estamos apuntando a un gobierno inteligente, a partir de esas tecnologías que hemos venido implementando, pero sabemos que todavía hay muchos retos en materia de servicios ciudadanos digitales; sin embargo, le estamos apuntando a usar esa IA para racionalizar trámites, para anticiparnos a las necesidades de los ciudadanos, pero esto trae consigo también unos grandes desafíos en materia de seguridad y privacidad de la información”.
Impacto en la Ciberseguridad
Desde la perspectiva de la ciberseguridad, Wilmer Jaraba, ingeniero sénior de sistemas de Fortinet, destacó que la IA es utilizada tanto por “los buenos” como por “los malos“. Donde estos últimos la emplean para construir más fácilmente sus ataques, crear nuevos códigos maliciosos, mejorar las técnicas de suplantación y explotar vulnerabilidades de forma mucho más rápida.
“El Estado en general debería enfocarse en entrenar a las personas para comprender cómo utilizar y sacarle provecho a la inteligencia artificial y también cómo esto genera nuevos desafíos en el procesamiento”, dijo Jaraba.
Precisamente, en lo que se refiere al conocimiento, Fernández destacó que “hay una encrucijada porque hay una brecha entre los skills que se tienen dentro de las organizaciones y las necesidades reales, y es que se requieren unos high skills para enfrentar las amenazas de la inteligencia artificial en las organizaciones porque esto ya está excediendo las capacidades de los equipos”.
Estrategias para un avance seguro
A pesar de las divergencias en la adopción de la IA en el sector privado y el público, los expertos del panel coincidieron en varios puntos para un avance seguro de la IA en el sector público, resaltando iniciativas como:
Pedir asesoría especializada: No tema pedir ayuda y buscar empresas con experiencia en tecnología y en sectores de gobierno. Consulte, pida referencias y certificaciones; después de todo, lo que afecte al gobierno nos atañe a todos.
Fortalecimiento de capacidades: Es uno de nuestros principales elementos que incluye la capacitación de “tomadores de decisiones” y equipos de TI, especialmente en entidades territoriales con presupuestos limitados, donde el líder de tecnología a menudo se enfoca en soporte técnico y no en la estrategia.
Hoja de ruta y Gobierno de Datos: Es fundamental generar una hoja de ruta y un plan a seguir para las instituciones donde la data se vuelve enriquecedora para tomar decisiones y que, además, permita interoperar y, al mismo tiempo, ser regida desde una institucionalidad central.
Análisis de Riesgos: Antes de implementar cualquier tecnología de IA, es indispensable realizar un análisis de riesgo para comprender a qué se va a enfrentar la entidad. Las IA pueden alucinar y generar sesgos, por lo que hay que dudar de ella y construir filtros. Además, las IA no son infalibles y tienen sus propias vulnerabilidades, pudiendo ser manipuladas o engañadas.
Lectura del Conpes y Plan Nacional de Infraestructura de Datos: Es la “primera tarea” fundamental para cualquier persona en el sector público o privado leer el Conpes. Además, la próxima publicación del Plan Nacional de Infraestructura de Datos por parte del DNP es crucial para la estandarización y la interoperabilidad, base para la ciberseguridad y la analítica.
Habilitar el Uso Controlado: En lugar de prohibir el uso de IA por parte de los empleados, se debe habilitar el uso de la tecnología de una manera que mitigue el riesgo.
