España investiga inédito ciberataque con IA; agente accedió a datos personales

España analiza un ciberataque en el que un agente de inteligencia artificial habría actuado de forma autónoma contra un sistema.

La Agencia Española de Protección de Datos (AEPD) recibió la primera notificación de una brecha de datos personales en la que, según la información reportada por la organización afectada, un tercero utilizó un agente de inteligencia artificial para ejecutar distintas fases de un ciberataque. El incidente permitió al agente acceder al sistema, buscar vulnerabilidades, modificar datos personales y consultar facturas.

España investiga un ciberataque ejecutado con IA

De acuerdo con fuentes de la AEPD, el agente de IA inició una búsqueda de vulnerabilidades en archivos genéricos y posteriormente realizó un inicio de sesión correcto. Una vez dentro del sistema, comenzó a buscar de manera autónoma vulnerabilidades en la aplicación.

Tras encontrar una vulnerabilidad, el agente pudo modificar datos personales y acceder a facturas, de acuerdo con la información incluida en la notificación presentada ante el organismo español.

La AEPD ha precisado que los datos disponibles corresponden a la notificación realizada por la organización afectada, por lo que deberán ser analizados antes de establecer conclusiones definitivas sobre el incidente.

Un tercero utilizó el agente de inteligencia artificial

El organismo también aclaró que la utilización de un modelo concreto de inteligencia artificial no significa que el modelo o la infraestructura de su proveedor hayan sido comprometidos, ni que la herramienta haya sido creada para desarrollar actividades maliciosas.

La AEPD señaló que el aspecto relevante desde la perspectiva de la protección de datos es que un tercero habría utilizado un agente de IA como instrumento para encadenar distintas fases del ataque.

La primera notificación tampoco permite establecer una tendencia estadística. Sin embargo, para la Agencia representa una señal de que los ataques apoyados en inteligencia artificial comienzan a materializarse en incidentes que afectan a tratamientos reales de datos personales.

Cómo pueden utilizarse los agentes de IA

La utilización de inteligencia artificial en actividades maliciosas no es nueva. Los modelos generativos ya han sido empleados para redactar mensajes de phishing, traducir campañas fraudulentas, suplantar identidades, analizar código y facilitar la búsqueda de vulnerabilidades, según la AEPD.

La diferencia que introduce un agente de IA está relacionada con su capacidad para recibir un objetivo y realizar diversas tareas intermedias. Puede utilizar herramientas, ejecutar código, consultar fuentes, interpretar resultados y modificar su actuación de forma autónoma dependiendo de lo que encuentra.

La AEPD ha señalado que la inteligencia artificial no crea nuevas amenazas, pero puede incrementar la velocidad, escala y capacidad de adaptación de técnicas maliciosas conocidas, reduciendo el tiempo disponible para detectar y contener un incidente.

AEPD pide revisar la gestión de riesgos

Francisco Pérez Bes, director adjunto de la Agencia, explicó en un blog del organismo que la notificación también modifica el escenario de la gestión de riesgos.

Entre los aspectos señalados está la necesidad de incorporar de manera expresa los ataques asistidos o ejecutados mediante IA en los análisis de riesgos de los tratamientos. Una referencia general a malware, phishing o accesos no autorizados podría no contemplar las características de este tipo de automatización.

También planteó revisar los tiempos de respuesta, debido a que un agente puede analizar distintos activos, probar diferentes vías de acceso y adaptar su comportamiento rápidamente.

Otro punto señalado es la importancia de las identidades digitales y las credenciales. Un agente que obtenga una cuenta, una clave o un token con permisos excesivos podría operar rápidamente y acceder a distintos servicios antes de que la organización detecte un comportamiento anómalo.

Finalmente, Pérez Bes destacó que la seguridad de los tratamientos no puede depender únicamente de la intervención manual y que la supervisión humana continúa siendo imprescindible, acompañada de mecanismos de detección, contención y respuesta capaces de actuar con rapidez.

Noticias del tema