La Agencia Española de Protección de Datos ha recibido una notificación poco habitual. Y no precisamente por el tipo de datos afectados, sino por la forma en la que se habría producido el ataque.
Por primera vez, la AEPD tiene conocimiento de una brecha de datos personales en la que varias fases del ataque habrían sido realizadas de forma autónoma por un agente de inteligencia artificial.
Es un detalle que cambia bastante las cosas.
Hasta ahora estamos acostumbrados a hablar de inteligencia artificial para escribir código, analizar información o ayudar a una persona a realizar determinadas tareas. En este caso, sin embargo, el sistema habría sido capaz de avanzar por su cuenta durante distintas fases del ataque.
Según la información recibida por la Agencia Española de Protección de Datos, el agente comenzó buscando vulnerabilidades en archivos genéricos y logró realizar correctamente un inicio de sesión.
Una vez dentro, siguió examinando la aplicación de manera autónoma hasta encontrar una vulnerabilidad. A partir de ahí, habría conseguido modificar datos personales y acceder a facturas almacenadas por la organización afectada.
Es decir, no se habría limitado a responder preguntas o generar instrucciones. El agente habría ido enlazando acciones según lo que encontraba en cada momento.
Hay que tener cierta cautela, eso sí.
La propia Agencia Española de Protección de Datos recuerda que estos datos proceden de la notificación realizada por la organización afectada. El incidente todavía debe analizarse y una primera comunicación no permite saber si estamos ante un fenómeno que empezará a repetirse con frecuencia.
Pero el caso sí deja algo claro: una posibilidad que hasta hace poco parecía más propia de pruebas de laboratorio empieza a aparecer en incidentes reales.
Y cuando hay datos personales de por medio, eso importa.
La Agencia Española de Protección de Datos ante una amenaza diferente
Conviene aclarar también otro punto. Que durante el ataque se haya utilizado un modelo de inteligencia artificial no significa que ese modelo haya sido hackeado.
La AEPD ha insistido precisamente en esta diferencia.
Una persona puede utilizar un modelo de lenguaje como herramienta para realizar una actividad maliciosa sin que el proveedor de esa tecnología, su infraestructura o el propio modelo hayan sufrido una brecha de seguridad.
Puede parecer una diferencia pequeña, pero no lo es. Sirve para separar la herramienta utilizada de quien lleva a cabo el ataque.
La inteligencia artificial, de hecho, lleva tiempo apareciendo en el mundo del cibercrimen.
Puede utilizarse para redactar correos de phishing mucho más convincentes, traducir estafas a distintos idiomas, revisar código o acelerar la búsqueda de vulnerabilidades.
Nada de eso es completamente nuevo.
Lo que llama la atención en el caso comunicado a la Agencia Española de Protección de Datos es el grado de autonomía.
Los agentes de IA funcionan de una manera algo diferente a un chatbot tradicional. Pueden recibir un objetivo, dividirlo en tareas, utilizar herramientas, ejecutar acciones, comprobar qué resultado han obtenido y decidir qué hacer después.
Ahí está el verdadero cambio.
En vez de necesitar una instrucción humana para cada paso, el sistema puede continuar trabajando durante una secuencia bastante más larga.
Y aplicado a un ciberataque, eso puede convertirse en un problema serio.
La IA no inventa el ataque, pero puede hacerlo mucho más rápido
La Agencia Española de Protección de Datos apunta a una cuestión especialmente interesante: la inteligencia artificial no tiene por qué crear amenazas totalmente nuevas.
Muchas siguen siendo las de siempre.
Credenciales robadas. Accesos no autorizados. Vulnerabilidades sin corregir. Fallos de configuración. Sistemas con demasiados permisos.
Lo que puede cambiar es la velocidad.
Un atacante humano tiene que comprobar qué ocurre después de cada acción, analizar los resultados y decidir qué hacer a continuación. Un agente suficientemente avanzado podría realizar parte de ese trabajo automáticamente.
Puede probar distintas alternativas, comprobar cuál funciona y adaptar su comportamiento sobre la marcha.
Para los equipos de seguridad, eso significa tener menos margen para reaccionar.
Una actividad que antes podía desarrollarse durante horas podría avanzar mucho más rápido si buena parte del proceso está automatizado.
Y aquí aparece uno de los grandes retos para las empresas: no basta con detectar que algo extraño está ocurriendo. También hay que ser capaces de responder antes de que el ataque siga avanzando.
La velocidad de la IA obliga a replantear las defensas
Muchos sistemas de seguridad se diseñaron pensando en ataques manuales o en automatizaciones bastante previsibles.
Los agentes de inteligencia artificial introducen otro escenario.
Si el sistema atacante puede observar lo que ocurre, cambiar de estrategia y probar una alternativa en cuestión de segundos, los mecanismos defensivos también tienen que reaccionar más rápido.
En cierto modo, la automatización de los ataques empuja hacia una mayor automatización de la defensa.
Los sistemas de monitorización, detección y contención tendrán que adaptarse a esa nueva velocidad.
También vuelve a ponerse sobre la mesa algo bastante menos futurista: las credenciales.
En el incidente comunicado a la Agencia Española de Protección de Datos hubo un inicio de sesión correcto antes de que el agente continuara buscando vulnerabilidades.
Eso recuerda una realidad bastante sencilla. Podemos hablar de agentes autónomos y modelos avanzados de IA, pero una contraseña comprometida o una sesión mal protegida siguen pudiendo abrir la puerta.
La seguridad básica continúa siendo básica por una razón.
Limitar privilegios, utilizar sistemas adicionales de autenticación, controlar comportamientos extraños y eliminar accesos que no sean necesarios puede marcar una diferencia enorme.
Sobre todo cuando quien está al otro lado puede probar opciones a una velocidad mucho mayor que antes.
De los chatbots a los agentes autónomos
El incidente también permite ver hacia dónde está moviéndose la inteligencia artificial.
Durante los últimos años, buena parte de la atención se ha concentrado en los grandes modelos capaces de conversar, escribir textos, programar o generar imágenes.
Ahora el siguiente paso está en los agentes.
La diferencia parece pequeña cuando se explica sobre el papel, pero puede tener bastante impacto.
Un chatbot responde.
Un agente puede actuar.
Puede recibir una tarea, utilizar herramientas y continuar hasta alcanzar un objetivo o encontrarse con algún límite.
Ese cambio tiene aplicaciones muy útiles en el trabajo, la programación, la investigación o la automatización de procesos. Pero la misma capacidad también puede utilizarse con fines maliciosos.
Como ocurre tantas veces con la tecnología, la herramienta no cambia según quién la utiliza. Lo que cambia es el objetivo.
La Agencia Española de Protección de Datos pide revisar los riesgos
Nada de esto significa que internet esté a punto de llenarse de ataques completamente autónomos.
La propia Agencia Española de Protección de Datos ha sido prudente.
Una sola notificación no permite hablar de una tendencia ni saber con qué frecuencia veremos situaciones similares en los próximos meses o años.
Y esa cautela es importante. Con la inteligencia artificial es bastante fácil que cualquier novedad termine convertida en un titular mucho más alarmante de lo que realmente sabemos.
El valor de este caso está en el precedente.
Un agente de IA habría conseguido encadenar diferentes fases de un ataque sin necesitar una intervención humana constante.
Eso obliga a las empresas a plantearse escenarios que hace unos años apenas aparecían en sus análisis de riesgos.
La ciberseguridad siempre ha sido una carrera. Unos buscan fallos y otros intentan encontrarlos antes para poder corregirlos.
La inteligencia artificial puede acelerar los dos lados de esa carrera.
Las empresas tendrán que mirar la IA desde los dos lados
Para cualquier empresa que gestione información de clientes, empleados o proveedores, el aviso de la Agencia Española de Protección de Datos merece atención.
No basta con pensar en cómo utilizar la inteligencia artificial de forma segura dentro de la organización.
También hay que preguntarse cómo podría utilizarla alguien desde fuera.
Ese cambio de perspectiva es importante.
Una empresa puede no utilizar agentes de inteligencia artificial y aun así encontrarse con un atacante que sí los utilice.
Por eso la AEPD considera que los ataques asistidos o ejecutados mediante IA deberían aparecer de manera expresa en los análisis de riesgos.
Clasificarlos simplemente como phishing, malware o acceso no autorizado puede quedarse corto si la automatización cambia de forma importante la velocidad, la probabilidad o el alcance del incidente.
Además, cuando una brecha afecta a datos personales, el problema no termina al cerrar la vulnerabilidad.
Dependiendo de la información comprometida, las consecuencias pueden llegar directamente a clientes, empleados u otras personas afectadas.
El Reglamento General de Protección de Datos establece que determinadas brechas de datos personales deben notificarse a la autoridad de control cuando puedan suponer un riesgo para los derechos y libertades de las personas.
Ese sistema de notificaciones es precisamente el que ha permitido que un incidente como este llegue ahora a conocimiento de la Agencia Española de Protección de Datos.
Una señal de lo que puede venir
Todavía es pronto para saber si este tipo de ataques se convertirá en algo habitual.
Una única notificación no permite sacar esa conclusión.
Pero sí deja una señal bastante clara.
Los agentes de inteligencia artificial ya no deben analizarse únicamente por lo que pueden hacer para ayudarnos a trabajar mejor. También hay que pensar en la velocidad y la autonomía que pueden ofrecer a alguien que quiera utilizarlos con otros fines.
Ese será probablemente uno de los grandes retos de la seguridad digital durante los próximos años.
Si una máquina puede analizar una situación, tomar una decisión y actuar en cuestión de segundos, la defensa no puede depender siempre de que una persona vea una alerta, la investigue y responda manualmente.
La inteligencia artificial está transformando muchas tareas cotidianas. Este incidente muestra que también puede cambiar una mucho menos visible, pero bastante más delicada: la forma en la que se atacan y se protegen nuestros datos personales.
Cuando una brecha de seguridad afecta a información personal, la empresa no solo tiene que solucionar el problema técnico. También debe valorar el riesgo que supone para las personas afectadas y actuar según establece el RGPD. La propia Agencia explica en su información oficial sobre la notificación de brechas de datos personales que estos incidentes deben comunicarse a la autoridad de control cuando puedan suponer un riesgo para los derechos y libertades de las personas.
Especialista en comunicación corporativa y magíster en esta disciplina, con una sólida trayectoria en el ámbito de los nuevos medios, prensa y comunicación digital. Su trabajo se orienta a la creación de estrategias comunicativas innovadoras, la gestión de contenidos en entornos digitales y el fortalecimiento de la identidad de marca a través de plataformas online.
