La Inteligencia Artificial (IA) basada en la nube es proclive a combinaciones tóxicas evitables que dejan los datos y modelos de IA confidenciales vulnerables a manipulación, adulteración y fugas. Así se estableció en el Informe 2025 de Tenable: El riesgo de IA en la nube.
No se puede negar que la nube y la IA cambian las reglas del juego para las empresas. Sin embargo, ambas instancias presentan riesgos cibernéticos complejos cuando se combinan.
El Informe destaca el estado actual de los riesgos de seguridad en las herramientas y marcos de desarrollo de IA en la nube y en los servicios de IA ofrecidos por los tres principales proveedores en la nube: Amazon Web Services (AWS), Google Cloud Platform (GCP) y Microsoft Azure.
Los hallazgos clave del informe incluyen los siguientes:
– Las cargas de trabajo de IA en la nube no son inmunes a las vulnerabilidades: aproximadamente el 70 % de las cargas de trabajo de IA en la nube contienen al menos una vulnerabilidad no corregida. En particular, Tenable Research detectó CVE-2023-38545, una vulnerabilidad curl crítica, en el 30 % de las cargas de trabajo de IA en la nube.
– Hay errores de configuración estilo Jenga®1 en servicios de IA gestionados: 77% de las organizaciones tienen la cuenta de servicio predeterminada Compute Engine con privilegios en exceso configurada en Google Vertex AI Notebooks. Esto implica que todos los servicios generados en este Compute Engine predeterminado están en riesgo.
– Los datos de entrenamiento de IA son susceptibles al envenenamiento de datos, lo que amenaza con sesgar los resultados del modelo: 14 % de las organizaciones que utilizan Amazon Bedrock no bloquean explícitamente el acceso público a al menos un bucket de entrenamiento de IA y el 5% tiene al menos un bucket con permisos en exceso.
– Las instancias de computadores portátiles de Amazon SageMaker otorgan acceso raíz predeterminadamente: como resultado, el 91 % de los usuarios de Amazon SageMaker tienen al menos un computadora portátil que, si se ve en riesgo, podría otorgar acceso no autorizado, lo que podría resultar en la modificación potencial de todos los archivos en ella.
“La inteligencia artificial en la nube está acelerando el crecimiento económico y la innovación en América Latina, pero también introduce riesgos cibernéticos. El reto está en encontrar el equilibrio entre proteger los datos de IA frente a ataques complejos y permitir una innovación responsable”, señaló Hermes Romero, director para Centro, Suramérica y Caribe de Tenable. “Adoptar una postura proactiva en ciberseguridad no solo es una necesidad técnica, sino una decisión de negocios que impulsa la confianza, la resiliencia y el desarrollo sostenible que permitirá a la región competir a nivel global”, añadió.
“Cuando hablamos del uso de IA en la nube, hay más cosas en juego que los datos confidenciales. Si un agente malicioso manipula los datos o el modelo de IA, puede haber consecuencias catastróficas a largo plazo, como la integridad de los datos en riesgo, la seguridad de los sistemas críticos en riesgo y la degradación de la confianza del cliente”, dijo Liat Hayun, VP of Research and Product Management, Cloud Security de Tenable. “Las medidas de seguridad en la nube deben evolucionar para enfrentar los nuevos desafíos de la IA y encontrar el delicado equilibrio entre la protección contra ataques complejos dirigidos a los datos de IA y permitir a las organizaciones lograr una innovación responsable en IA”.
