Para IBM, 2024 será un año especial y no es porque sea bisiesto, sino por la cantidad de eventos relevantes en todo el mundo, desde los Juegos Olímpicos de París hasta las elecciones estadounidenses. Eventos que crearán tendencias y probarán las estrategias de ciberseguridad e Inteligencia Artificial de las empresas.
En este contexto, esta empresa decidió lanzar un listado de mitos y verdades alrededor del uso de la IA en ciberseguridad, recordando que es una tecnología que puede ser usada tanto para el bien como para el mal.
Juan Sebastián Estévez, Líder de Ciberseguridad de IBM Colombia, Perú, Ecuador, Venezuela y la Región Caribe, recordó además que según la división de ciberseguridad X-Force de IBM, el 2024 será “el año del engaño”, donde la Inteligencia Artificial Generativa tendrá un papel protagónico.
Amiga y enemiga
Según un estudio de IBM, el 64 % de las empresas consultadas afirmó enfrentar presión para acelerar sus iniciativas de GenAI, al mismo tiempo que el 84 % de ellas perciben el riesgo como el principal obstáculo para adoptarla.
Se trata de una encrucijada a favor y en contra, pero la IA tiene beneficios innegables en ciberseguridad. Según Estévez, la aplicación de esta tecnología ha reducido hasta en un 85 % el tiempo de respuesta frente a incidentes cibernéticos, pero al mismo tiempo, la GenAI es una herramienta que están usando los cibercriminales.
Un ejemplo de esto es el desarrollo de FraudGPT y WormGPT, clones del famoso ChatGPT, que se han hecho famosos por estar especializados en la producción de software malicioso (malware).
Es más, las plataformas públicas de Inteligencia Artificial también pueden ser engañadas o envenenarse con datos falsos. Algo muy difícil pero realizable, y esto es apenas uno de los riesgos que trae el 2024.
Listado de mitos y verdades
Para IBM, los mitos, verdades y tendencias de ciberseguridad en 2024 son:
Deep Fakes de audio que modernizarán los ataques BEC: VERDAD. El audio generado con IA para suplantar es una realidad. Por ejemplo, un empleado de una compañía podrá recibir una llamada del “CEO” diciendo “pague la factura”, pero en realidad es voz creada artificialmente por un ciberatacante, suplantando al CEO real.
Phishing diseñado por IA: VERDAD. Ya sea por correo electrónico o audio, el engaño creado con IA para obtener los datos financieros o confidenciales de una persona, resulta en una mayor tasa de clics.
Modelos de lenguaje de gran tamaño (LLMs) maliciosos: VERDAD. Ya estamos viendo que LLMs maliciosos “llegan al mercado” en la dark web como FraudGPT.
Ciberataques totalmente automatizados de punta a punta: Por ahora son un MITO. Hoy no son una amenaza inminente. Considerando que las grandes empresas tecnológicas aún tienen que descubrir cómo automatizar completamente los ciclos de desarrollo de software, es poco probable que grupos cibercriminales pequeños y con limitaciones financieras lo logren antes. Pero eso no significa que en el futuro no pueda suceder.
Envenenamiento del código de la IA: VERDAD. Buscan manipular el código y los datos sobre los que se construyen los modelos de IA con programación para que se comporten de la manera que el atacante quiera, y no son fácilmente detectables.
Las empresas verán un flujo de “usuarios doppelgänger” o con “personalidades múltiples”: TENDENCIA. Se trata de usuarios comportándose de una manera determinada un día y de otra manera al día siguiente. Los atacantes están asumiendo las identidades digitales de usuarios legítimos sin su conocimiento y esta tendencia solo se agravará en 2024.
La IA generativa nivelará el rol de los analistas de seguridad: TENDENCIA. Este año, la IA generativa empezará a apoyar ciertas tareas tediosas y administrativas de los equipos de seguridad, pero más allá de esto, también permitirá que los miembros del equipo con menos experiencia asuman tareas más desafiantes y de niveles superiores.
Los ataques de “cosechar ahora y descifrar después” se volverán más comunes con los avances cuánticos: TENDENCIA. El desempeño de los sistemas cuánticos sigue escalando.
