El Registro de Algoritmos de IA en la Comunidad Valenciana lo está impulsando José S. Tárrega Cervera, director general de Transparencia y Participación de la Generalitat. Foto: JST.
La Generalitat valenciana crea el primer Registro de Algoritmos de Inteligencia Artificial de España
|
17/12/2024 00:45
|
Actualizado: 17/12/2024 00:50
|
La Generalitat valenciana ha dado un paso pionero en España al anunciar la creación de un Registro de Algoritmos de Inteligencia Artificial (IA). Este proyecto, que refleja el compromiso del gobierno autonómico con las políticas de transparencia y participación ciudadana, tiene como objetivo promover una administración más abierta, responsable y equitativa.
Así lo afirma José S. Tárrega Cervera, director general de Transparencia y Participación de la Generalitat, impulsor de esta iniciativa que busca transformar la forma en que la Administración pública utiliza la IA en sus procesos.
Para Tárrega, la transparencia y la participación son fundamentales para una democracia robusta. “Garantizan un sistema de derechos fundamentales y libertades públicas, asegurando que los ciudadanos puedan ejercer sus derechos y participar activamente en la toma de decisiones que les afectan”, explica.
Un enfoque, añade, que forma parte de las políticas de gobierno abierto que impulsa Carlos Mazón, presidente del gobierno autonómico.
Los algoritmos de Inteligencia Artificial son conjuntos de instrucciones diseñadas para que una máquina aprenda, razone, tome decisiones o realice tareas que normalmente han requerido inteligencia humana. Se basan en modelos matemáticos y estadísticos que permiten analizar datos, identificar patrones y generar resultados sin que cada paso esté explícitamente programado.
Combatir la opacidad de los algoritmos
El director general es muy consciente de los recelos existentes hacia los algoritmos de la IA. Porque pueden perpetuar o amplificar sesgos preexistentes, lo que puede llevar a decisiones discriminatorias. Esto ocurre porque los sistemas se entrenan con datos históricos que a menudo reflejan desigualdades sociales.
El peligro es que la falta de transparencia y la opacidad de estos algoritmos dificulta entender cómo se toman las decisiones y qué datos se utilizan, lo que socava la confianza y el control del usuario sobre sus datos personales
De ahí su compromiso personal, precisamente, con esa transparencia y con la pedagogía para combatir el llamado efecto «caja negra», desarrollando sistemas explicables que permitan entender cómo se toman las decisiones automatizadas, especialmente en sectores como la administración pública. «Lo que refuerza la protección de derechos en la era digital», explica.
“Debemos explicar la importancia de esta iniciativa. No solo es un mandato constitucional, europeo e internacional, sino también una obligación legal estatal y autonómica”, destaca Tárrega. «La transparencia no solo fortalece la confianza pública, sino que también es una herramienta esencial para consolidar la democracia».
El Registro de Algoritmos
Esta iniciativa de la Generalitat valenciana la coloca a la cabeza de esta carrera en nuestro país.
«Será el primer registro público en España que reunirá y compartirá información sobre los algoritmos usados por la Administración valenciana. Su objetivo es fomentar la transparencia y facilitar el acceso a esta información, garantizando decisiones más justas y equitativas. También ayudará a que los ciudadanos comprendan y supervisen el funcionamiento de estos algoritmos, asegurando que las decisiones automatizadas sean claras y seguras», cuenta Tárrega.
El proyecto, desarrollado en colaboración con las universidades públicas valencianas, cuenta con la participación de múltiples departamentos de la Generalitat, dado su carácter transversal. Desde su inicio, en mayo, una mesa de trabajo ha reunido a áreas como sanidad, educación y tecnologías de la información para su implantación.
Centralizará y divulgará información clave sobre los algoritmos utilizados por la Administración valenciana. Permitirá a los ciudadanos acceder a información comprensible sobre su diseño y funcionamiento, el nivel de riesgo y un punto de contacto para resolver dudas.
El marco jurídico del registro
El Registro de Algoritmos forma parte de la Ley 1/2022, de 13 de abril, de la Generalitat, sobre Transparencia y Buen Gobierno. «Esta ley exige que se publiquen los sistemas de Inteligencia Artificial o algoritmos que influyen en los procedimientos administrativos o en los servicios públicos. Debe incluirse una descripción clara y sencilla de cómo están diseñados, cómo funcionan, el nivel de riesgo asociado y un punto de contacto para resolver dudas», cuenta el director general.
A pesar de su ambiciosa propuesta, Tárrega reconoce que el proyecto enfrenta retos técnicos importantes, como «unificar y actualizar constantemente la información de los distintos departamentos y organismos de la Generalitat, lo que puede ser técnicamente complejo».
Este desafío exige un esfuerzo constante y coordinado para actualizarse, «corregir sesgos en los algoritmos y garantizar la privacidad y seguridad de los datos publicados», subraya Tárrega.
Y concluye: «Estamos finalizando los preparativos para implementar el registro, que incluirá los primeros algoritmos, asegurará la información obligatoria y abordará el sesgo para garantizar decisiones más justas y equitativas en la administración pública valenciana. Es un compromiso ético, legal y político con la transparencia y la participación”.
Noticias Relacionadas:
