El Parlamento Europeo ha aprobado definitivamente la primera regulación integral de la inteligencia artificial (IA) del mundo. Foto: Confilegal

El Parlamento Europeo aprueba una ley histórica para regular la inteligencia artificial (IA)

13 / 03 / 2024 12:54

Actualizado el 13 / 03 / 2024 12:54

En esta noticia se habla de:

El Parlamento Europeo ha aprobado definitivamente la primera regulación integral de la inteligencia artificial (IA) del mundo. Una ley que tiene como principal misión limitar los peligros de esta tecnología sin perjudicar la innovación y el respeto de los derechos fundamentales.

El texto aprobado este miércoles por la Eurocámara con una abrumadora mayoría de 523 votos a favor, 46 en contra y 49 abstenciones llega casi tres años después de la primera propuesta de la Comisión Europea.

La normativa iba a estar lista a finales de 2022, pero el lanzamiento de ChatGPT y la meteórica popularización de la IA generativa obligó a los legisladores europeos a maniobrar para no dar a luz a un proyecto desfasado.

Su objetivo es proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación y erigiendo a Europa en líder del sector. El Reglamento fija una serie de obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto.

Aplicaciones prohibidas de IA

Las nuevas normas prohíben ciertas aplicaciones de inteligencia artificial que atentan contra los derechos de la ciudadanía, como los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial.

También se prohibirán el reconocimiento de emociones en el lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana, la actuación policial predictiva (cuando se base únicamente en el perfil de una persona o en la evaluación de sus características) y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.

Exenciones de las fuerzas de seguridad

El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido a priori, salvo en situaciones muy concretas y bien definidas.

Los sistemas de identificación biométrica «en tiempo real» solo se podrán emplear si se cumplen una serie de salvaguardias estrictas; por ejemplo, su uso se limita a un período y lugar específicos y cuenta con una autorización judicial o administrativa previa.

Entre estos casos pueden figurar la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista. Recurrir a estos sistemas a posteriori se considera un uso de alto riesgo, que requiere autorización judicial al estar vinculado a un delito penal.

Obligaciones para los sistemas de alto riesgo

También se prevén obligaciones claras para otros sistemas de IA de alto riesgo (debido a que pueden ser muy perjudiciales para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho).

Algunos ejemplos de usos de alto riesgo de la IA son las infraestructuras críticas, la educación y la formación profesional, el empleo, los servicios públicos y privados esenciales (por ejemplo, la sanidad o la banca),

También se incluye determinados sistemas de las fuerzas de seguridad, la migración y la gestión aduanera, la justicia y los procesos democráticos (como influir en las elecciones).

Estos sistemas deben evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos y contar con supervisión humana.

Los ciudadanos y ciudadanas tendrán derecho a presentar reclamaciones sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en ellos que afecten a sus derechos.

Requisitos de transparencia

Los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos.

Los modelos más potentes que podrían plantear riesgos sistémicos deberán cumplir requisitos adicionales, como realizar evaluaciones de los modelos, analizar y mitigar los riesgos sistémicos e informar sobre los incidentes.

Además, las imágenes, contenidos de audio o de vídeo artificiales o manipulados («ultrafalsificaciones») deberán etiquetarse claramente como tales.

Medidas de apoyo a la innovación y a las pymes

Habrá que poner a disposición de las pymes y de las empresas emergentes espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional para que puedan desarrollar y entrenar la IA innovadora antes de su comercialización.

Próximos pasos

El Reglamento aún está sujeto a una última comprobación jurídica-lingüística. Su aprobación definitiva (mediante el llamado procedimiento de corrección de errores) está prevista para antes del final de la legislatura. La ley también debe ser adoptada formalmente por el Consejo.

Entrará en vigor veinte días después de su publicación en el Diario Oficial y será de plena aplicación veinticuatro meses después de su entrada en vigor.

Tendrá algunas prohibiciones de prácticas (se aplicarán seis meses después de la fecha de entrada en vigor); los códigos de buenas prácticas (nueve meses después); las normas sobre la IA de uso general, incluida la gobernanza (doce meses después), y las obligaciones para los sistemas de alto riesgo (treinta y seis meses después).

Noticias relacionadas:

Webinario | ¿Utilizas IA? Descubre por qué tenerla integrada en tu software jurídico marca la diferencia

Cuando una IA cita jurisprudencia: cómo comprobar que la sentencia existe, es pertinente y está actualizada

El TSJM avala un despido de una trabajadora de una empresa de videojuegos tras la llegada de la IA

Perelló advierte que la IA puede amenazar los derechos fundamentales y apuesta por nuevas respuestas jurídicas

Clio lanza en España su plataforma de IA jurídica tras la mayor adquisición tecnológica de la historia del país

Google Gemini llega al TJUE: la IA puede contar los hechos, pero no reproducir los artículos de prensa

Lo último en Política

Bolaños

El Turno de Oficio de territorio Ministerio logra una subida salarial acumulada del 16,6 % en dos años, con aumentos de hasta el 79,7 % en las causas penales complejas

Félix Bolaños Consejo de Estado

Bolaños, sobre el Consejo de Estado: «Cuantas mejores leyes tengamos, mejor sociedad seremos»

QSD CONGRESO DE SEVILLA

Las familias de desaparecidos piden a la UE una respuesta «más coordinada, eficaz y humana» en el Manifiesto de Sevilla

MIGUEL ÁNGEL GARCÍA

Madrid critica que el anuncio de nuevas plazas judiciales es insuficiente, y llega sin financiación ni medios

costas juicio supremo alvaro garcía ortiz

Bolaños no descarta indultar a García Ortiz, y hacerlo antes de las próximas elecciones generales del 29N