Ricard Martínez
Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital y profesor de Derecho Constitucional de la Universitat de València.

Ricard Martínez: «El grado de supervisión humana de la inteligencia artificial dependerá del riesgo que represente»

7 / 09 / 2023 06:00

Actualizado el 07 / 09 / 2023 11:17

Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital y profesor de Derecho Constitucional de la Universitat de València, ha señalado los posibles «problemas democráticos» en la implementación de la inteligencia artificial (IA) durante su intervención en el seminario «Una nueva gobernanza para el siglo XXI: Gobernanza en la red» ofrecido por el Colegio de Registradores de España.

«El grado de supervisión humana de la inteligencia artificial dependerá del riesgo que represente», afirmó, señalando que ámbito como el de la salud se prestan a consecuencias más graves en instancias de desinformación.

También predijo que haría falta un «periodo transicional antes de la normalización» de estas herramientas, ya que «todas las personas tienen derecho a rechazar la asistencia de la IA», aunque calificó de «preocupante» la falta de esfuerzos de formación en esta materia, ya que «es muy difícil que la IA no permee la Administración». Los nuevos modelos laborales y de capacitación, dijo, requerirán la capacidad de «desplegar las oficinas en conjunción con las máquinas».

Martínez destacó la importancia de la protección de los derechos fundamentales en la era de la IA, que representa «un potenciador de la economía y la productividad». «El Reglamento de Datos de la Unión Europea (‘Data Act‘) pretende empoderar a los ciudadanos a través de aplicaciones móviles y el control de sus datos personales», apuntó.

Ignacio González Hernández, registrador de la Propiedad; Nacho Alamillo Domingo, abogado y director general de Astrea; Yolanda Gómez Sánchez, directora del Centro de Estudios Políticos y Constitucionales; María Emilia Adán, decana del Colegio de Registradores; Susana de la Sierra, profesora titular de Derecho Administrativo de la Universidad de Castilla-La Mancha; Borja Adsuara Varela, abogado y consultor, y Eva Menéndez Sebastián, catedrática de Derecho Administrativo de la Universidad de Oviedo, en el seminario ofrecido por el Colegio de Registradores.

Propuestas de gobernanza frente al «tecnopesimismo»

En cuanto a la visión de ciertos expertos, indicó que «el punto de vista de los constitucionalistas y los filósofos éticos tiende al pesimismo», explica, apuntando al «salvaje» proceso de monetización del intercambio de datos, en el que las multinacionales y compañías tecnológicas «se imponen a los Estados», con dificultades en su control debido a que «el derecho actúa tarde y reactivamente».

Sin embargo, «identificar un problema no basta; sin propuestas, se queda a mitad de camino», en sus palabras. «El tecnopesimismo se centra tanto en los riesgos que no ve las oportunidades», dice, por lo que «hay que recordar a los diseñadores de las IA que son garantes de derechos fundamentales». «El análisis de impacto es un elemento crucial en vistas a que los principios éticos se vuelvan requisitos jurídicos de alto nivel», declaró.

Por su lado, Eva Menéndez Sebastián, catedrática de Derecho Administrativo de la Universidad de Oviedo, detalló las consecuencias de la mayor relación entre los ciudadanos y los poderes públicos que ofrecen los medios digitales, especialmente en cuanto a la exigencia de una mayor transparencia en la rendición de cuentas. «Una buena administración pondera los hechos y normas para mejorar su eficacia de su servicio, y la IA ofrece más datos para decidir mejor», dijo.

En este sentido, rescató la utilidad de estas herramientas para perseguir el interés general de acuerdo a principios de eficacia a la vez que «se respetan las garantías fundamentales al incorporar esta innovación», especialmente en tareas repetitivas. «El equilibrio no es sencillo, pero los ciudadanos no pueden participar sin conocimientos, que no pueden tener si no hay transparencia», afirmó.

Sin embargo, indicó los riesgos de la «brecha digital» entre los usuarios que conocen las funciones de la IA y aquellos que no están al tanto. «No podemos dejar afuera a quienes no manejan esta tecnología», afirmó, añadiendo que los responsables también deben estar pendientes de evitar la «discriminación algorítmica» para no vulnerar los principios de igualdad.

La sesión fue presentada por Susana de la Sierra, profesora titular de Derecho Administrativo de la Universidad de Castilla-La Mancha, que subrayó los desafíos de la transición digital, especialmente en la implementación de sistemas de IA, donde observa «una oportunidad de personalizar los servicios públicos».

Para ello, dijo, se exige » una autoridad de supervisión», un rol que podría cumplir la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), constituida bajo un decreto que «plantea problemas de calidad jurídica».

Noticias relacionadas:

Webinario | ¿Utilizas IA? Descubre por qué tenerla integrada en tu software jurídico marca la diferencia

Cuando una IA cita jurisprudencia: cómo comprobar que la sentencia existe, es pertinente y está actualizada

El TSJM avala un despido de una trabajadora de una empresa de videojuegos tras la llegada de la IA

Perelló advierte que la IA puede amenazar los derechos fundamentales y apuesta por nuevas respuestas jurídicas

Clio lanza en España su plataforma de IA jurídica tras la mayor adquisición tecnológica de la historia del país

Rosario Jiménez Rubio destaca el papel clave de los registradores en la lucha contra la ocultación de bienes y patrimonio ilícito

Lo último en Profesionales

voto por correo

Los cinco errores que pueden impedir que tu voto por correo sea válido en las elecciones del 29N

PARA PUBLICAR EL MIÉRCOLES 9 Y AÑADIR A NEWSLETTER: ¿Preparado para la Campaña de Renta 2025? Las principales novedades en IRPF e IS en esta guía gratuita de Adlanter

Vivienda, alquiler, coches eléctricos y pensiones: las claves para ahorrar en el IRPF de 2026

ASCOM IA

Algoritmos bajo control: las empresas afrontan el reto de justificar las decisiones de su inteligencia artificial

José F. Zamarriego, presidente de ASCOM.

ASCOM reivindica un «Compliance Officer» independiente y con influencia real ante los nuevos riesgos de la IA

Grant Thornton(1)

“Europa se ha excedido en ese paso atrás”: Grant Thornton advierte de que clientes y bancos seguirán exigiendo datos de sostenibilidad