Después de intensas negociaciones que se prolongaron durante 37 horas entre el Parlamento Europeo y los Estados miembros de la Unión Europea, finalmente se ha logrado un acuerdo histórico en torno a la primera normativa global del mundo destinada a regular la Inteligencia Artificial (IA).
El francés Thierry Breton, comisario europeo de Mercado Interior y Servicios, encargado de un conjunto de leyes que también supervisarán las redes sociales y los motores de búsqueda en Europa, expresó su calificación de «histórico» para este acuerdo.
Este marco regulatorio abarca a gigantes tecnológicos como X, TikTok y Google.
Breton explicó que más de 100 personas han estado encerrados en una sala, trabajando conjuntamente durante casi tres días, para cerrar este trascendental acuerdo.
A su juicio, el sacrificio de dormir pocas horas «ha valido la pena» en la consecución de un pacto que marca un hito en la regulación de la inteligencia artificial.
Este acuerdo coloca a la Unión Europea en una posición de liderazgo en la carrera por regular la inteligencia artificial, superando a Estados Unidos, China y el Reino Unido.
PROTEGER A LOS CIUDADANOS DE LOS RIESGOS DE LA INTELIGENCIA ARTIFICIAL
El objetivo principal es proteger a los ciudadanos de los riesgos asociados con esta tecnología en constante desarrollo, incluida la preocupación por posibles amenazas a la vida.
Los intervinientes, sin embargo, han compartido pocos detalles sobre el contenido específico de la futura legislación, que no entrará en vigor antes de 2025 como muy pronto.
La negociación política entre el Parlamento Europeo y los Estados miembros de la UE para establecer nuevas leyes que regulen la inteligencia artificial fue intensa y marcada por disputas sobre modelos fundacionales destinados a propósitos generales en lugar de objetivos específicos.
Un tema de discusión prolongada durante las negociaciones fue la vigilancia impulsada por la Inteligencia Artificial, que podría ser utilizada por la policía, empresarios o minoristas para realizar filmaciones en tiempo real y reconocer el estrés emocional.
Aunque el Parlamento Europeo logró prohibir el uso de la vigilancia en tiempo real y las tecnologías biométricas, incluido el reconocimiento emocional, se establecieron tres excepciones, según Breton.
La policía solo podría emplear estas tecnologías invasivas en caso de amenaza inesperada de un atentado terrorista, en la necesidad de buscar víctimas y en la persecución de delitos graves.
El eurodiputado Brando Benefei, que codirigió el equipo negociador del Parlamento con Dragoș Tudorache, el eurodiputado rumano que ha liderado la batalla de cuatro años del Parlamento Europeo para regular la IA, dijo que también consiguieron una garantía de que las «autoridades independientes» tendrían que dar permiso a la «policía predictiva» para protegerse de los abusos policiales y de la presunción de inocencia en los delitos.
PROHIBIR LA TECNOLOGÍA QUE PREDETERMINE QUIÉN PUEDE COMETER UN DELITO
«Buscábamos crear una legislación que asegurara el desarrollo del ecosistema de la inteligencia artificial en Europa con un enfoque centrado en el ser humano, respetando los derechos fundamentales y los valores humanos. Además, queríamos fomentar la confianza y la conciencia sobre cómo aprovechar al máximo esta revolución de la inteligencia artificial que estamos presenciando», explicó a los medios en una rueda de prensa celebrada después de la medianoche de ayer en Bruselas.
Tudorache añadió: «Nunca hemos pretendido negar a las fuerzas del orden las herramientas que necesitan [la policía] para luchar contra la delincuencia, las herramientas que necesitan para luchar contra el fraude, las herramientas que necesitan para proporcionar y garantizar una vida segura a los ciudadanos. Pero sí queríamos -y lo hemos conseguido- prohibir la tecnología de IA que determine o predetermine quién puede cometer un delito».
El pacto se fundamenta en un sistema graduado basado en el riesgo, en virtud del cual el nivel de regulación más riguroso se asigna a las máquinas que representan la amenaza más significativa para la salud, la seguridad y los derechos humanos.
Inicialmente, el texto original contemplaba que esta medida englobaría a todos los sistemas con más de 10.000 usuarios comerciales.
El pacto se fundamenta en un sistema graduado basado en el riesgo, en virtud del cual el nivel de regulación más riguroso se asigna a las máquinas que representan la amenaza más significativa para la salud, la seguridad y los derechos humanos
La categoría de mayor riesgo se redefine ahora en función del número de operaciones informáticas necesarias para capacitar a la máquina, denominadas «operaciones en coma flotante por segundo» (Flops).
Según fuentes consultadas, solo se identifica un modelo, el GPT4, que cumpliría con la nueva definición establecida.
El marco legal de regulación sigue imponiendo considerables obligaciones a los servicios de IA, incluyendo normativas esenciales sobre la transparencia de los datos utilizados para instruir a las máquinas en diversas tareas, desde redactar un artículo periodístico hasta diagnosticar un caso de cáncer.
LOS PRIMEROS EN ESTABLECER UNA REGULACIÓN COMPLETA DE LA IA
En opinión del eurodiputado rumano: «Nos destacamos como pioneros al ser los primeros en el mundo en establecer una regulación concreta para la IA, guiando el desarrollo y la evolución de esta tecnología hacia una orientación centrada en el ser humano en el futuro mundo digital».
En anteriores declaraciones, Tudorache expresó la determinación de la UE de no repetir los errores del pasado, donde gigantes tecnológicos como Facebook crecieron sin restricciones, convirtiéndose en corporaciones multimillonarias sin la obligación de regular los contenidos de sus plataformas.
Esto incluyó problemas como interferencias en elecciones, abusos sexuales a menores y discursos de odio.
Una normativa sólida y exhaustiva de la UE podría servir como un ejemplo poderoso para otros gobiernos que consideran la regulación.
