La Agencia Española de Protección de Datos (AEPD) ha informado de una primera notificación de una brecha de datos personales en la que un agente de inteligencia artificial habría sido utilizado para ejecutar de forma autónoma distintas fases de un ciberataque.
Según la información comunicada por la organización afectada a la AEPD, el agente atacante comenzó buscando vulnerabilidades en archivos genéricos y consiguió realizar correctamente un «login».
Una vez dentro del sistema, buscó de manera autónoma vulnerabilidades en la aplicación y, tras localizar una, pudo modificar datos personales y acceder a facturas.
La AEPD introduce, no obstante, una cautela importante: la información disponible procede de la notificación presentada por la propia organización y todavía deberá ser analizada.
Además, que se haya utilizado un determinado modelo de IA no significa que ese modelo o la infraestructura de su proveedor hayan sido comprometidos, ni tampoco que la herramienta estuviera diseñada para realizar actividades maliciosas.
Un agente IA capaz de encadenar las fases del ataque
Para la AEPD, lo relevante desde el punto de vista de la protección de datos es que un tercero habría utilizado un agente de IA para encadenar con éxito diferentes fases de un ataque.
La Agencia advierte de que una primera notificación no permite hablar todavía de una tendencia estadística. Sí supone, en cambio, una señal significativa de que los ataques apoyados en inteligencia artificial comienzan a materializarse en incidentes que afectan a tratamientos reales de datos personales.
El cambio respecto al uso tradicional de la IA en ciberdelincuencia reside fundamentalmente en la autonomía.
Los modelos generativos ya podían emplearse para redactar mensajes de «phishing», facilitar campañas fraudulentas, analizar código o buscar vulnerabilidades. Un agente de IA puede ir más allá: recibe un objetivo, planifica tareas, utiliza herramientas, ejecuta código, interpreta los resultados y adapta su actuación a aquello que encuentra.
La inteligencia artificial no crea necesariamente nuevas amenazas, pero sí puede aumentar considerablemente la velocidad, escala y capacidad de adaptación de técnicas de ataque ya conocidas.
La AEPD pide revisar los análisis de riesgos
Desde el punto de vista jurídico y de cumplimiento normativo, la aparición de estos ataques obliga a las organizaciones a revisar sus modelos de gestión de riesgos.
La AEPD considera necesario incorporar expresamente los ataques asistidos o ejecutados mediante IA a los análisis de riesgos de los tratamientos de datos personales, ya que la automatización puede alterar la probabilidad, velocidad y alcance de una brecha de seguridad.
También cobra especial importancia la protección de las identidades digitales y las credenciales. Un agente que consiga una cuenta, una clave API o un «token» con permisos excesivos puede acceder a diferentes servicios a velocidad de máquina antes de que la organización detecte la actividad anómala.
La supervisión humana sigue siendo necesaria, pero, según plantea la Agencia, debe complementarse con mecanismos automáticos de detección, contención y respuesta capaces de reaccionar con suficiente rapidez.
El escenario que dibuja la AEPD afecta directamente a responsables y encargados del tratamiento y a los delegados de protección de datos: los fundamentos de la seguridad siguen siendo los mismos —limitar accesos, corregir vulnerabilidades, controlar proveedores, minimizar datos y disponer de protocolos de respuesta—, pero los agentes de IA pueden reducir drásticamente el tiempo disponible para reaccionar ante un ciberataque.
