Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital y profesor de Derecho Constitucional de la Universitat de València, ha señalado los posibles «problemas democráticos» en la implementación de la inteligencia artificial (IA) durante su intervención en el seminario «Una nueva gobernanza para el siglo XXI: Gobernanza en la red» ofrecido por el Colegio de Registradores de España.
«El grado de supervisión humana de la inteligencia artificial dependerá del riesgo que represente», afirmó, señalando que ámbito como el de la salud se prestan a consecuencias más graves en instancias de desinformación.
También predijo que haría falta un «periodo transicional antes de la normalización» de estas herramientas, ya que «todas las personas tienen derecho a rechazar la asistencia de la IA», aunque calificó de «preocupante» la falta de esfuerzos de formación en esta materia, ya que «es muy difícil que la IA no permee la Administración». Los nuevos modelos laborales y de capacitación, dijo, requerirán la capacidad de «desplegar las oficinas en conjunción con las máquinas».
Martínez destacó la importancia de la protección de los derechos fundamentales en la era de la IA, que representa «un potenciador de la economía y la productividad». «El Reglamento de Datos de la Unión Europea (‘Data Act‘) pretende empoderar a los ciudadanos a través de aplicaciones móviles y el control de sus datos personales», apuntó.
Propuestas de gobernanza frente al «tecnopesimismo»
En cuanto a la visión de ciertos expertos, indicó que «el punto de vista de los constitucionalistas y los filósofos éticos tiende al pesimismo», explica, apuntando al «salvaje» proceso de monetización del intercambio de datos, en el que las multinacionales y compañías tecnológicas «se imponen a los Estados», con dificultades en su control debido a que «el derecho actúa tarde y reactivamente».
Sin embargo, «identificar un problema no basta; sin propuestas, se queda a mitad de camino», en sus palabras. «El tecnopesimismo se centra tanto en los riesgos que no ve las oportunidades», dice, por lo que «hay que recordar a los diseñadores de las IA que son garantes de derechos fundamentales». «El análisis de impacto es un elemento crucial en vistas a que los principios éticos se vuelvan requisitos jurídicos de alto nivel», declaró.
Por su lado, Eva Menéndez Sebastián, catedrática de Derecho Administrativo de la Universidad de Oviedo, detalló las consecuencias de la mayor relación entre los ciudadanos y los poderes públicos que ofrecen los medios digitales, especialmente en cuanto a la exigencia de una mayor transparencia en la rendición de cuentas. «Una buena administración pondera los hechos y normas para mejorar su eficacia de su servicio, y la IA ofrece más datos para decidir mejor», dijo.
En este sentido, rescató la utilidad de estas herramientas para perseguir el interés general de acuerdo a principios de eficacia a la vez que «se respetan las garantías fundamentales al incorporar esta innovación», especialmente en tareas repetitivas. «El equilibrio no es sencillo, pero los ciudadanos no pueden participar sin conocimientos, que no pueden tener si no hay transparencia», afirmó.
Sin embargo, indicó los riesgos de la «brecha digital» entre los usuarios que conocen las funciones de la IA y aquellos que no están al tanto. «No podemos dejar afuera a quienes no manejan esta tecnología», afirmó, añadiendo que los responsables también deben estar pendientes de evitar la «discriminación algorítmica» para no vulnerar los principios de igualdad.
La sesión fue presentada por Susana de la Sierra, profesora titular de Derecho Administrativo de la Universidad de Castilla-La Mancha, que subrayó los desafíos de la transición digital, especialmente en la implementación de sistemas de IA, donde observa «una oportunidad de personalizar los servicios públicos».
Para ello, dijo, se exige » una autoridad de supervisión», un rol que podría cumplir la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), constituida bajo un decreto que «plantea problemas de calidad jurídica».
