Inteligencia Artificial
Así ha respondido la directora ejecutiva de Europol, Catherine de Bolle, a la carta de la eurodiputada Maite Pagazaurtundua sobre el caso denunciado en Almendralejo.

Europol pide más herramientas legales y policiales para luchar contra material de abuso infantil generado con IA 

28 / 11 / 2023 14:15

Actualizado el 18 / 01 / 2024 11:25

La agencia europea de cooperación policial Europol ha pedido más herramientas legales y policiales para luchar contra el material de abuso sexual infantil generado con inteligencia artificial (IA), como el del caso de Almendralejo (Badajoz), donde se difundieron a través de aplicaciones de mensajería instantánea falsos desnudos de menores creadas por estas herramientas tecnológicas.

Así ha respondido la directora ejecutiva de Europol, Catherine de Bolle, a la carta de la eurodiputada Maite Pagazaurtundua sobre el caso denunciado en Almendralejo. La agencia asegura a Pagaza que ha sido informada del caso por las autoridades españolas, en concreto, el equipo del Proyecto de Análisis Twins, especializado en material de abuso sexual infantil. 

Pagaza denunció este grave caso “en el que se entremezclan la usurpación de identidad y los abusos sexuales a menores en la red”. “Estas nuevas formas de ciberdelincuencia afectan a los derechos fundamentales, a la libertad sexual, el honor y la propia imagen de los menores que debe depurarse a nivel penal y civil, pero cuyo origen está en el uso por parte de unos de datos personales protegidos. Es ahí donde hay que actuar con toda la intensidad”, advertía.

En su respuesta, Europol le asegura que coopera a escala internacional y con todas las autoridades nacionales contra la creación y propagación de este material producido con inteligencia artificial, pero que “cada vez es más difícil distinguir el contenido generado por IA del material de desnudos reales”. 

Prevé de hecho que en el futuro se complique el trabajo de las fuerzas policiales porque de momento el problema se limita a las fotografías, “pero se estima que se extenderá al material de vídeo en un futuro próximo”, y porque “la tecnología puede usarse además para alterar los antecedentes de contenido real, haciéndolo más difícil de detectar”. 

Por todo ello, Europol pide herramientas de lucha. “Sería beneficioso si el futuro marco legislativo de la UE sobre IA garantizara herramientas relevantes para las fuerzas del orden y para Europol en particular, junto con procesos ágiles que permitan una prevención y detección efectivas de este tipo de delitos”, expone De Bolle en su respuesta. 

Al mismo tiempo que la IA tiene este uso tan grave, se puede emplear para identificar y analizar ese mismo material. Por ello, Europol explica que colabora con el Supervisor Europeo de Protección de Datos para explorar nuevas vías de investigación más eficaces. 

Maite Pagazaurtundua es vicepresidenta de la Comisión de Libertades y Justicia del Parlamento Europeo. La eurodiputada trabaja sobre el uso malicioso de la IA en distintos ámbitos, como este de la protección de los menores, así como en el terreno de la política. A este respecto, Pagaza ha lanzado un paquete de peticiones a la Comisión Europea, a Europol y al equipo negociador de la futura legislación sobre publicidad política, para evaluar la peligrosidad para el Estado de Derecho del uso de inteligencia artificial por parte de políticos, representantes públicos y partidos. 

“La evolución de las posibilidades de manipulación de imágenes a través de la IA es vertiginosa. Su uso también en la manipulación política, la creación de sesgos más sectarios y contra la propia idea del pluralismo ideológico es un riesgo cada vez más grave”, plantea Pagaza.

Noticias relacionadas:

Webinario | ¿Utilizas IA? Descubre por qué tenerla integrada en tu software jurídico marca la diferencia

Las familias de desaparecidos piden a la UE una respuesta «más coordinada, eficaz y humana» en el Manifiesto de Sevilla

Cuando una IA cita jurisprudencia: cómo comprobar que la sentencia existe, es pertinente y está actualizada

El TSJM avala un despido de una trabajadora de una empresa de videojuegos tras la llegada de la IA

Perelló advierte que la IA puede amenazar los derechos fundamentales y apuesta por nuevas respuestas jurídicas

Clio lanza en España su plataforma de IA jurídica tras la mayor adquisición tecnológica de la historia del país

Lo último en Profesionales

josé soriano

José Soriano renueva como decano del Colegio de Abogados de Valencia por otros cuatro años

trillo

De la mutualidad a la pensión pública, qué debe valorar cada profesional antes de dar el paso

AEPD_Código

Ni inamovible ni prescindible: la AEPD fija el estatuto del delegado de protección de datos

Lorenzo silva Erguido hacia las estrellas

Lorenzo Silva rescata a Francisco de Vitoria en un nuevo libro: “En estos tiempos de poderes desatados y abusivos, está más vigente que nunca”

Eugenio_Ribon

Eugenio Ribón pide a la CNMC que facilite las reclamaciones de los consumidores afectados por los cárteles empresariales