“La IA Generativa – IAG- es la nueva superficie de ataque por proteger. Los atacantes apuntarán a la IA de las organizaciones usando también la IA”, comentó Juan Sebastián Estévez, líder de Ciberseguridad de IBM Colombia, Perú, Ecuador, Venezuela y Región Caribe.
El directivo añadió: “El 2024 es el año del engaño. La ciberseguridad será más importante que nunca, teniendo en cuenta que los eventos locales y mundiales, como las elecciones en Estados Unidos y los Juegos Olímpicos, son la ‘tormenta perfecta’ para las campañas de desinformación y ataques cibernéticos a un nuevo nivel. Se usará la IA para la seguridad y seguridad para la IA”.
Y es que en el ámbito empresarial, la inteligencia artificial (IA) se encuentra en un punto de inflexión, habiendo alcanzado una curva de madurez en la que las inversiones de las últimas décadas están empezando a dar frutos.
Pero, así como las personas están cada vez más cercanas a los uso de IA, los ciberdelincuentes también están aprovechando esta tecnología para ser más sofisticados en sus ataques.
Tendencias
Según el estudio “IA Generativa empresarial: estado del mercado” de IBM Institute of Business Value, 2023: el 64% de las empresas enfrentan la presión para acelerar las iniciativas de IAG; 84% perciben el ciberriesgo como el obstáculo #1 para adoptar la IAG, y el 64% ven la seguridad como caso de uso prioritario de IAG.
En este escenario, IBM identifica tres tendencias principales:
1. Las empresas verán un flujo de “usuarios doppelgänger” o con “personalidades múltiples”: se trata de usuarios comportándose de una manera determinada un día y de otra manera al día siguiente. Los atacantes están asumiendo las identidades digitales de usuarios legítimos sin su conocimiento y esta tendencia solo se agravará en 2024.
2. IA generativa nivelará el rol de los analistas de seguridad: este año, la IA generativa empezará a apoyar ciertas tareas tediosas y administrativas de los equipos de seguridad, pero más allá de esto, también permitirá que los miembros del equipo con menos experiencia asuman tareas más desafiantes y de niveles superiores.
3. Los ataques de “cosechar ahora y descifrar después” se volverán más comunes con los avances cuánticos. El desempeño de los sistemas cuánticos sigue escalando. Anticipándose a esto, las organizaciones deberán empezar ahora el proceso de identificar la criptografía utilizada en sus entornos tecnológicos para prepararse para la transición a criptografía resistente a la computación cuántica, también conocida como Quantum-Safe, para garantizar que sus datos y sistemas sigan protegidos contra las amenazas planteadas por el descifrado cuántico.
Mitos y verdades en ciberseguridad
– Deep Fakes de audio que modernizarán los ataques BEC: VERDAD. El audio generado con IA para suplantar es una realidad. Por ejemplo, un empleado de una compañía podrá recibir una llamada del “CEO” diciendo “pague la factura”, pero en realidad es voz creada artificialmente por un ciberatacante, suplantando al CEO real.
– Phishing diseñado por IA: VERDAD. Ya sea por correo electrónico o audio, el engaño creado con IA para obtener los datos financieros o confidenciales de una persona, resulta en una mayor tasa de clics.
– Modelos de lenguaje de gran tamaño (LLMs) maliciosos: VERDAD. Ya estamos viendo que LLMs maliciosos “llegan al mercado” en la dark web como “FraudGPT”, una herramienta basada en suscripción para elaborar ataques maliciosos. Su capacidad para escribir código malicioso, crear malware y crear correos electrónicos de phishing esencialmente reduce la barrera de entrada para atacantes más inexpertos.
– Ciberataques totalmente automatizados: Por ahora son un MITO. Hoy no son una amenaza inminente. Considerando que las grandes empresas tecnológicas aún tienen que descubrir cómo automatizar completamente los ciclos de desarrollo de software, es poco probable que grupos cibercriminales pequeños y con limitaciones financieras lo logren antes. Pero eso no significa que en el futuro no pueda suceder.
– Envenenamiento del código de la IA: VERDAD. Buscan manipular el código y los datos sobre los que se construyen los modelos de IA con programación para que se comporten de la manera que el atacante quiera, y no son fácilmente detectables.
