IA ofensiva: cuando la inteligencia artificial acelera el riesgo para la protección de datos
La inteligencia artificial (IA) ha transformado los servicios digitales, también los que emplean los ciberdelincuentes, que la utilizan, y en particular los agentes de IA, para acelerar los ciberataques, reducir los tiempos de intrusión y explotar vulnerabilidades de forma automatizada. La sucesión de brechas masivas de datos personales pone de manifiesto un cambio de paradigma en la ciberseguridad. Este cambio exige analizar las vulnerabilidades de los recursos digitales, así como reflexionar sobre las medidas que deberían adoptarse tanto a corto como a largo plazo.
Diseñado por Magnific.
La IA ofensiva (en inglés, offensive AI) es el uso de sistemas de inteligencia artificial para potenciar, automatizar o ejecutar acciones dirigidas a comprometer, dañar o explotar sistemas informáticos, infraestructuras, organizaciones o personas. Los LLM utilizados de forma aislada todavía presentan limitaciones para generar malware sofisticado y operativo. Sin embargo, con sistemas de IA agéntica y con la experiencia de un atacante experimentado, pueden convertirse en un importante multiplicador de capacidades. Esta combinación aumenta significativamente la calidad, velocidad, escala y grado de automatización de distintas fases de un ciberataque.
El impacto más relevante de la IA ofensiva es la práctica desaparición de la llamada “ventana de exposición”, es decir, el intervalo entre el descubrimiento de una vulnerabilidad y su explotación. Debido a la velocidad de los agentes de IA, una vulnerabilidad recién descubierta puede convertirse en un arma casi de forma inmediata, reduciéndose a cuestión de minutos el tiempo medio entre el acceso inicial a un sistema y la exfiltración de datos. A esto hay que añadir un cambio de enfoque: ya no se ataca una vulnerabilidad aislada, sino que la IA analiza y explota las debilidades de toda una infraestructura TIC.
La clave de los éxitos de las IA la podemos ver en la propia descripción que hacen sus creadores en un caso real: había un fallo de software crítico, literalmente catalogado como un error que llevaba cuatro años y nadie sabía qué pasaba. ¿Qué hizo la IA? Desensambló todo el código binario de una biblioteca cerrada y sin documentar de un proveedor externo. Entendió cómo interactuaba con el sistema operativo a muy bajo nivel y aisló el fallo original, en apenas unas horas. Esta descripción ya evidencia graves problemas estructurales de ciberseguridad previos: sistemas heredados, sin documentar, la persistencia de vulnerabilidades N-day ya conocidas, fallos en la cadena de suministro y, en definitiva, carencia de accountability.
El ejemplo anterior muestra la magnitud del problema: más que ante la vulnerabilidad puntual de una organización concreta, estamos ante una debilidad sistémica. Ésta tiene su origen en una determinada forma de entender la política de digitalización y en el modo en que se han desplegado, en general, los servicios conectados y la automatización, que han desembocado en la creación de una infraestructura TIC “insegura desde el diseño”. Detrás de todo ello hay una actitud de resignación, asumida con los años, ante la idea de que los sistemas TIC tienen errores y vulnerabilidades y de que corresponde a los usuarios parchearlos continuamente, a diferencia de lo que ocurre en otros sectores industriales clave, como el aeroespacial, el de la automoción o el energético.
Esta falta de calidad en las aplicaciones y servicios TIC había venido siendo más o menos sostenible, aunque ya habían producido graves disrupciones en servicios esenciales incluso a escala global, como la caída de servicios en la nube. Sin embargo, la irrupción de la IA ofensiva, cuya capacidad está creciendo de forma exponencial, ha convertido el actual status-quo de la ciberseguridad en insostenible. Por lo tanto, a la hora de enfrentarse a este problema, es necesario preguntarse ¿cómo se ha llegado a esta situación?
La pregunta formulada admite muchas respuestas. Entre ellas está el abandono de metodologías robustas de desarrollo de sistemas en favor de metodologías ágiles, e incluso con el recientemente denominado vibe coding con IA, sin un compromiso real con la calidad del código, de la rendición de cuentas (accountability) y del desarrollo conforme a especificaciones adecuadas, incluidos requisitos estrictos de seguridad y pruebas. El problema no es solo de código, muchos servicios TIC son frágiles desde su propia arquitectura, por falta de segmentación, de entornos aislados, de procedimientos de recuperación de los procesos (no solo de los datos), y por un exceso de conectividad a internet y una interoperabilidad mal entendida. A ello se suma la escasa capacidad de control sobre la cadena de suministro de servicios y sistemas, ya que se identifica una fuerte dependencia de grandes proveedores externos (software de terceros, nube, IA, etc.) sometidos a una supervisión meramente contractual, sin una capacidad real de auditoría a estas terceras partes, y una interdependencia entre decenas de servicios de distintos proveedores que, aunque eficiente a corto plazo, provoca que la caída de uno solo de ellos pueda colapsar sectores enteros. Esto último se aprecia en las brechas de datos personales que se producen en unos pocos encargados del tratamiento, pero que afectan a cientos o miles de responsables del tratamiento de un sector que depende tecnológicamente de ellos. Con relación a lo anterior, se observa que la subcontratación masiva erosiona el conocimiento técnico interno de las organizaciones (know-how) y lleva a desplegar componentes que funcionan como auténticas cajas negras.
Algunos órganos de decisión carecen de conocimientos sólidos sobre sistemas TIC, lo que se traduce en una falta de análisis crítico en las decisiones estratégicas, que quedan condicionadas por las expectativas que generan los proveedores de soluciones, por las modas tecnológicas y por políticas cortoplacistas. Se tiende a asumir como inevitable un mercado de productos “inseguros por defecto” y existe una escasa comprensión tanto de los riesgos, especialmente para los derechos y libertades de las personas físicas, como de los costes, en tiempo y recursos, que exige seleccionar, diseñar, probar, desplegar y mantener un sistema con garantías. Como resultado, muchas organizaciones han caído en una política de seguridad de mínimos, de “marcar casillas”, no adaptada a las peculiaridades de cada tratamiento, en la que las normas y los estándares se utilizan más como instrumento de seguridad jurídica que como guía para una ciberseguridad efectiva.
Frente a este panorama, la respuesta a la IA ofensiva debería combinar dos horizontes temporales: estrategias a corto plazo, que reduzcan el impacto de un riesgo que ya está materializándose, y estrategias a largo plazo que eliminen esta vulnerabilidad estructural para hacer sostenible el propio modelo de digitalización y preserven la confianza en la economía digital ante las futuras IA
Entre las medidas a corto plazo se podría sugerir tomar conciencia de la alta probabilidad de que se produzcan brechas de datos personales masivas (las notificaciones a la AEPD han aumentado un 150 % en 2026 respecto a 2025) y realizar un análisis y una gestión del riesgo que no se limite a la ciberseguridad ni a la seguridad jurídica, sino que sea sistemático y multifacético, pero especialmente enfocado en derechos y libertades de las personas. De ahí, actuar en consecuencia: inventario de la superficie y dispositivos de borde, analizar escenarios de potenciales brechas, asumir un enfoque de Zero Trust, incluir MFA a prueba de phishing, mínimo privilegio, establecer cuentas administrativas separadas, revisar permisos, auditorías y procesos de toma de decisiones automáticas ante accesos masivos o inusuales, realizar la gestión de secretos/tokens y reducir credenciales persistentes, reducir al mínimo la exposición a internet y aislar o restringir la conectividad de sistemas críticos, bloquear fuera de línea aquellos datos sin uso inmediato, purgar los datos fuera de plazo de conservación y copias no controladas, asegurar la capacidad de restauración de datos, procesos y servicios, y aumentar la privacidad (huella OSINT) frente a la ingeniería social.
A ello se suman otras medidas a corto plazo como introducir autenticación fuera de banda, establecer puntos de control con supervisión humana en los procesos automatizados, cerrar acceso a servicios no autorizados, eliminar o controlar estrictamente el uso de dispositivos personales (BYOD) y los dispositivos móviles que no ofrezcan garantías suficientes. También, establecer procedimientos que permitan detectar, escalar, evaluar y documentar inmediatamente los incidentes y disponer de capacidad para realizar las notificaciones a la autoridad de protección de datos, CSIRT u otras autoridades, establecer una coordinación real entre el DPD y el responsable de seguridad y, cuando proceda, realizar sin dilación indebida las comunicaciones a las personas afectadas. Todos estos procedimientos han de ensayarse en simulacros de incidentes graves de seguridad.
El parcheo automático sin supervisión como solución a corto plazo precisa de una reflexión. Un parche es, en la práctica, una modificación no probada en el entorno concreto en que se instala; automatizar su despliegue equivale a aceptar cambios en producción sin validación previa. Su aplicación traslada al proveedor una decisión que es responsabilidad de la organización, cuando la cadena de suministro del software es hoy un objetivo prioritario, y el parcheo automático es su punto de entrada natural. Si miles de organizaciones actualizan a la vez y sin control, un solo parche comprometido se convierte en un incidente de impacto global. La automatización del parcheo con agentes de IA añade una capa adicional de opacidad. En caso de utilizarlo, hay que plantearse priorizar por impacto real, realizar despliegue por anillos y rollback probado y otros controles mientras se valida.
Los problemas estructurales necesitan de estrategias a largo plazo que garanticen sostenibilidad. Entre ellas se encuentra la gobernanza real de lo digital a lo largo de todo su ciclo de vida y, en particular, para los servicios de IA. Hay que asumir que no existen sistemas perfectos ni milagros tecnológicos y que, por tanto, resulta imprescindible dedicar tiempo al análisis, al desarrollo y a las pruebas, dotando a cada proyecto de los recursos necesarios. La capacitación en seguridad debe centrarse en quienes toman las decisiones estratégicas, que han de contar con un conocimiento real y fundamentado de las capacidades, limitaciones y vulnerabilidades de los sistemas TIC, así como de la gestión de los procesos de sus organizaciones.
Resultan igualmente esenciales el fortalecimiento del Registro de Actividades de Tratamiento (RAT) como herramienta efectiva de gestión —controlar qué datos se tratan, cómo, dónde, quién lo hace y con qué finalidad—, el rediseño de los tratamientos con criterios estrictos de minimización de datos, la gestión de la arquitectura de identidad como factor crítico, el despliegue de los sistemas de automatización como usuarios no confiables y la incorporación de metodologías de desarrollo robustas por defecto. A ello se suma la necesidad de recuperar el conocimiento técnico dentro de las organizaciones, disponer de infraestructuras y planes de contingencia realistas, dotados de recursos, que garanticen la resiliencia ante fallos de servicios externos, ataques internos o cortes de energía, y desarrollar la capacidad de operar en modo degradado, con procedimientos manuales para los procesos críticos e “interruptores” que permitan detener las automatizaciones.
Estas estrategias a largo plazo se completan con la consecución de la soberanía digital, que exige un control efectivo de las cadenas de suministro, seguridad de los sistemas desde el diseño y transparencia en toda la cadena de valor de los sistemas digitales, incluidos los de IA y los agénticos, sin aceptar cajas negras ni una seguridad únicamente contractual. A ello se añaden la reducción de la concentración y de la dependencia respecto de proveedores únicos, junto con una auditoría automática y un control real sobre ellos, una política específica para los sistemas heredados y la incorporación, en el diseño de los servicios TIC, de límites de confianza, segmentación de la infraestructura e interoperabilidad mínima necesaria.
En definitiva, se trata de que a largo plazo las organizaciones sean capaces de gestionar el ciclo de vida completo de los datos, los procesos y los sistemas que los implementan.
Este artículo de blog está relacionado con otros materiales publicados desde la División de Innovación y Tecnología de la AEPD, como son:
- Primera notificación de una brecha de datos personales causada por un ataque ejecutado mediante un agente de IA [sept 2026]
- Artículo de blog Soberanía operativa en tratamientos de datos personales [feb 2026]
- Brechas de datos personales: seguridad enfocada a los tratamientos [mar 2024]
- Orientaciones para la validación de sistemas criptográficos en la protección de datos [may 2023]
- Herramienta VALIDA-CRIPTO RGPD para evaluar los sistemas de cifrado [oct 2023]
- Brechas de datos personales: entornos de desarrollo y preproducción [abr 2022]
- Sin privacidad no hay ciberseguridad [feb 2022]
- Brechas de seguridad: Ransomware y gestión del riesgo[dic 2020]
