La agencia europea de cooperación policial Europol ha pedido más herramientas legales y policiales para luchar contra el material de abuso sexual infantil generado con inteligencia artificial (IA), como el del caso de Almendralejo (Badajoz), donde se difundieron a través de aplicaciones de mensajería instantánea falsos desnudos de menores creadas por estas herramientas tecnológicas.
Así ha respondido la directora ejecutiva de Europol, Catherine de Bolle, a la carta de la eurodiputada Maite Pagazaurtundua sobre el caso denunciado en Almendralejo. La agencia asegura a Pagaza que ha sido informada del caso por las autoridades españolas, en concreto, el equipo del Proyecto de Análisis Twins, especializado en material de abuso sexual infantil.
Pagaza denunció este grave caso “en el que se entremezclan la usurpación de identidad y los abusos sexuales a menores en la red”. “Estas nuevas formas de ciberdelincuencia afectan a los derechos fundamentales, a la libertad sexual, el honor y la propia imagen de los menores que debe depurarse a nivel penal y civil, pero cuyo origen está en el uso por parte de unos de datos personales protegidos. Es ahí donde hay que actuar con toda la intensidad”, advertía.
En su respuesta, Europol le asegura que coopera a escala internacional y con todas las autoridades nacionales contra la creación y propagación de este material producido con inteligencia artificial, pero que “cada vez es más difícil distinguir el contenido generado por IA del material de desnudos reales”.
Prevé de hecho que en el futuro se complique el trabajo de las fuerzas policiales porque de momento el problema se limita a las fotografías, “pero se estima que se extenderá al material de vídeo en un futuro próximo”, y porque “la tecnología puede usarse además para alterar los antecedentes de contenido real, haciéndolo más difícil de detectar”.
Por todo ello, Europol pide herramientas de lucha. “Sería beneficioso si el futuro marco legislativo de la UE sobre IA garantizara herramientas relevantes para las fuerzas del orden y para Europol en particular, junto con procesos ágiles que permitan una prevención y detección efectivas de este tipo de delitos”, expone De Bolle en su respuesta.
Al mismo tiempo que la IA tiene este uso tan grave, se puede emplear para identificar y analizar ese mismo material. Por ello, Europol explica que colabora con el Supervisor Europeo de Protección de Datos para explorar nuevas vías de investigación más eficaces.
Maite Pagazaurtundua es vicepresidenta de la Comisión de Libertades y Justicia del Parlamento Europeo. La eurodiputada trabaja sobre el uso malicioso de la IA en distintos ámbitos, como este de la protección de los menores, así como en el terreno de la política. A este respecto, Pagaza ha lanzado un paquete de peticiones a la Comisión Europea, a Europol y al equipo negociador de la futura legislación sobre publicidad política, para evaluar la peligrosidad para el Estado de Derecho del uso de inteligencia artificial por parte de políticos, representantes públicos y partidos.
“La evolución de las posibilidades de manipulación de imágenes a través de la IA es vertiginosa. Su uso también en la manipulación política, la creación de sesgos más sectarios y contra la propia idea del pluralismo ideológico es un riesgo cada vez más grave”, plantea Pagaza.
