De izquerda a derecha, Moisés Barrio, letrado del Consejo de Esgado, Rodrígo González, socio de Deloitte Legal, y Diego Loma Osorio, director de los servicios jurídicos de la Agencia Tributaria. Foto: Confilegal.
El Reglamento europeo de Inteligencia Artificial impone límites y control para proteger los derechos fundamentales
|
23/5/2025 05:35
|
Actualizado: 22/5/2025 17:44
|
El nuevo Reglamento de Inteligencia Artificial (IA) de la Unión Europea fue objeto de análisis en el II Congreso IA Empresa y Derecho que se celebró ayer en Madrid, organizado por Lefebvre, con la colaboración del Santander.
Fue en la mesa redonda bajo el título «Reglamento de Inteligencia Artificial y Gestión de Riesgos en el Sector Público» en la que participaron Moisés Barrio, letrado del Consejo de Estado y experto en Derecho digital, y Diego Loma-Osorio, director de los servicios jurídicos de la Agencia Tributaria bajo la moderación de Rodrigo González, socio de Deloitte Legal.
Ambos ponentes coincidieron en destacar que el Reglamento —ya en vigor— es una norma compleja, exigente y pionera, que busca equilibrar la innovación tecnológica con la protección de los derechos fundamentales.
Una pieza clave para garantizar la transparencia, la trazabilidad, la supervisión humana y la ciberseguridad en el uso de la IA, especialmente en el sector público.
Una clasificación piramidal de riesgos
El Reglamento establece una clasificación de riesgos que distingue entre usos prohibidos, sistemas de alto riesgo, de riesgo medio y mínimo o nulo.
En palabras de Moisés Barrio, “la mayor parte de la regulación se centra en los sistemas de alto riesgo”, que afectan a sectores como justicia, educación, sanidad, seguros y empleo.
Estos sistemas deben cumplir con requisitos técnicos y organizativos específicos: gestión de riesgos, gobernanza de datos, documentación técnica, supervisión humana y medidas de ciberseguridad
IA en la administración pública: entre eficiencia y responsabilidad
En su intervención, Diego Loma-Osorio puso el foco en la enorme cantidad de datos que maneja la administración tributaria —el equivalente a entre 20 y 30 millones de libros de 400 páginas— y en la necesidad de automatización para una gestión eficiente.
Sin embargo, advirtió: “La transparencia puede chocar con la privacidad de los datos tributarios, por lo que se requiere un delicado equilibrio regulatorio”.
En este sentido, se subrayó la importancia de contar con listas de verificación (checklists) que permitan auditar el cumplimiento del Reglamento y facilitar la trazabilidad y la explicación de las decisiones algorítmicas.
Transparencia, ética y gobernanza democrática
Uno de los ejes centrales de la jornada fue la gobernanza democrática de la IA. Barrio fue tajante: “El reto es gobernarla democráticamente. Y el Reglamento es el cauce que nos permite hacerlo”. En su opinión, la transparencia debe ser el principio rector.
Para ello, propuso la creación de un registro público de algoritmos, especialmente en sistemas de alto riesgo o en contratos públicos de cierta cuantía.
Tanto Barrio como Loma-Osorio coincidieron en que la formación continua y la alfabetización digital son esenciales para los operadores públicos y privados.
El artículo 4 del Reglamento impone esta obligación a los fabricantes, con programas adaptados a los riesgos específicos de cada organización.
El letrado del Consejo de Estado hizo especial hincapié en un error que se comete comúnmente al hablar de «la IA». «Porque no hay una sola. Hay muchas más. Y otro error es el de pensar que la IA los soluciona todo».
«La IA que se utiliza en derecho está basada en ‘machine learning’ y tiene alucinaciones porque sustituye causalidad por predicción. Por tanto, tenemos que revisar siempre el trabajo que haga la IA. Nos ayuda muchísimo, nos hace resúmenes, nos busca fuentes de información, pero es fundamental revisar sus resultados para evitar las alucinaciones algorítmicas», destacó.
IA como herramienta complementaria, no sustitutiva
Lejos de visiones alarmistas, Barrio defendió que la IA no viene a reemplazar a los profesionales del Derecho: “No es el abogado robot. Es una herramienta que permite mejorar los servicios jurídicos y centrarse en los aspectos humanos del Derecho”.
Añadió que la clave está en la calidad del fondo documental con el que se entrenan los sistemas, ya que “basura entra, basura sale”, en referencia a la gobernanza de datos.
El director del Servicio Jurídico de la Agencia Tributaria, explicó que la inteligencia artificial se está utilizando, sobre todo, en el ámbito de la gestión y de la asistencia a los ciudadanos. «Aquí es donde están más desarrollados los bots, los asistentes virtuales, tecnologías como Watson, la robotización en general y el uso masivo de datos —big data—», relató.
Sin embargo, lo que es la inteligencia artificial propiamente dicha, en el ámbito de la inspección o de la comprobación del cumplimiento de las obligaciones tributarias por parte de los contribuyentes, «por el momento no se está utilizando».
Pero la «Agencia Tributaria sí cuenta con un plan estratégico que prevé la aplicación de la inteligencia artificial en todos sus ámbitos, y uno de ellos, lógicamente, es el de la comprobación. De hecho, ya existe un proyecto bastante avanzado para implementar esta tecnología en dicho ámbito, pero actualmente todavía no está en funcionamiento«, reveló.
La norma no está exenta de zonas grises
Ambos expertos alertaron de que la norma no está exenta de zonas grises, fruto del proceso legislativo europeo y la presión de los «lobbies». Sin embargo, insistieron en que ya existe una jurisprudencia y directrices previas —como las de la Comisión Europea sobre el concepto de IA— que permiten interpretar correctamente sus preceptos.
Para Moisés Barrio, “cumplir con el Reglamento ideal es complicado porque intenta regular tecnologías ‘vintage’ con nuevas reglas en un entorno de evolución exponencial”.
Pese a ello, defendió la opción europea por una regulación transversal, frente al modelo sectorial estadounidense, como la mejor vía para garantizar seguridad jurídica, eficiencia y ética en el uso de la IA.
Lo que supone el Reglamento de Inteligencia Artificial
El moderador, Rodrigo González, también un experto sobre este campo, aclaró que «el Reglamento de Inteligencia Artificial de la Unión Europea busca equilibrar el mercado desde el punto de vista de la soberanía tecnológica, actualmente dominada por dos grandes polos a nivel global. Esta regulación tiene como objetivo establecer un marco de equilibrio que garantice un uso ético y seguro de la inteligencia artificial, y que priorice la protección de los derechos fundamentales de las personas afectadas«.
En este sentido, no se trata solo de la protección de datos de carácter personal, sino también de aquellos datos confidenciales o altamente sensibles para las empresas. «El Reglamento —y las normas que de él deriven a nivel nacional en los Estados miembros— pretende precisamente garantizar ese equilibrio regulatorio, reforzando además la posición europea en el escenario tecnológico mundial».
En opinión de todos los intervinienes, el Reglamento de Inteligencia Artificial marca un antes y un después en la relación entre tecnología, Derecho y administración.
Exige responsabilidad, transparencia y preparación técnica. Como apuntó Barrio parafraseando al espíritu del Derecho romano: “Si Ulpiano viera hoy el BOE o el Diario Oficial de la UE, le daría un infarto”.
El mensaje es claro: la IA no es una amenaza, sino una oportunidad. Pero solo si se gobierna con reglas claras, supervisión efectiva y principios éticos. Porque el futuro de la tecnología en lo público no se juega en los algoritmos, sino en cómo los usamos.
Noticias Relacionadas:
