Primera notificación de una brecha de datos personales causada por un ataque ejecutado mediante un agente de IA
La Agencia Española de Protección de Datos ha recibido la primera notificación de una brecha de datos personales en la que el incidente habría sido ejecutado mediante un agente de inteligencia artificial que utilizó un conocido modelo de lenguaje.
Francisco Pérez Bes
El agente atacante inició una búsqueda de vulnerabilidades en archivos genéricos, y realizó un login correcto. Una vez accedió al sistema, comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación, lo que, una vez conseguido, le permitió modificar datos personales y acceder a facturas.
Con carácter previo a ningún tipo de conclusión, hay que señalar que la información disponible procede de la notificación presentada por la organización afectada y deberá ser objeto del correspondiente análisis. Asimismo, la utilización de un concreto modelo de IA tampoco implica que el modelo o la infraestructura de su proveedor hayan sido comprometidos ni que la herramienta haya sido diseñada para desarrollar actividades maliciosas.
Ahora bien, lo relevante desde la perspectiva de la protección de datos es que un tercero habría utilizado un agente de IA como instrumento para encadenar exitosamente distintas fases del ataque.
Esta primera notificación no permite afirmar una tendencia estadística, aunque sí constituye una señal significativa de que los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales.
De la asistencia al atacante a la actuación agéntica
La utilización de inteligencia artificial en actividades maliciosas no es nueva. Se ha demostrado que, aplicadas a un ciberataque, estas capacidades pueden facilitar la automatización de actividades ilícitas. De hecho, desde hace tiempo se emplean modelos generativos para redactar mensajes de phishing, traducir campañas fraudulentas, suplantar identidades, analizar código o facilitar la búsqueda de vulnerabilidades.
La aparición de agentes de IA introduce, sin embargo, un cambio cualitativo. Un agente puede recibir un objetivo, planificar tareas intermedias, utilizar herramientas, ejecutar código, consultar fuentes, interpretar resultados y modificar su actuación, de forma autónoma, en función de lo que encuentra.
Cabe recordar que la IA no crea nuevas amenazas. Pero sí aumenta la velocidad, escala y capacidad de adaptación de técnicas maliciosas ya conocidas, reduciendo el tiempo disponible para detectarlas y contenerlas.
Esta es también una de las conclusiones de la guía CCN-CERT BP/36: Buenas prácticas frente al modelo de IA ofensiva, publicada por el Centro Criptológico Nacional. El documento advierte de que la IA ofensiva se está convirtiendo en una capacidad operativa integrada en campañas reales y recomienda reforzar los controles esenciales, acelerar la gestión de vulnerabilidades, proteger las identidades, controlar la cadena de suministro y gobernar adecuadamente el uso de agentes.
¿Por qué es relevante esta primera notificación?
La importancia de esta notificación, además de por la tecnología empleada, radica en modificar el escenario de la gestión de riesgos.
En primer lugar, confirma la necesidad de incorporar expresamente los ataques asistidos o ejecutados mediante IA a los análisis de riesgos de los tratamientos. Es decir, no basta con incluir una referencia genérica a malware, phishing o acceso no autorizado, pues esta automatización puede modificar sustancialmente la probabilidad, velocidad y alcance del incidente.
En segundo lugar, obliga a revisar los tiempos de respuesta. Los procedimientos diseñados para ataques ejecutados manualmente pueden resultar insuficientes cuando un agente analiza simultáneamente múltiples activos, prueba distintas vías de acceso y adapta su comportamiento con rapidez.
En tercer lugar, aumenta la importancia de las identidades digitales y de las credenciales. Un agente que obtiene una cuenta, una clave API o un token con permisos excesivos puede operar a la velocidad de una máquina y acceder a diferentes servicios antes de que la organización detecte un comportamiento anómalo.
Finalmente, evidencia que la seguridad de los tratamientos no puede depender únicamente de la intervención manual. La supervisión humana continúa siendo imprescindible, pero debe apoyarse en mecanismos de detección, contención y respuesta capaces de operar con la rapidez suficiente.
Una señal para actuar
La llegada de los agentes de IA al ámbito ofensivo debe impulsar una revisión inmediata de los modelos de seguridad y protección de datos
Responsables, encargados y delegados de protección de datos deben prepararse para un escenario en el que la velocidad del ataque será cada vez mayor, pero en el que continuarán siendo decisivos los mismos fundamentos: conocer los tratamientos, minimizar los datos, limitar los accesos, corregir vulnerabilidades, controlar a los proveedores y estar preparados para responder.
