El Gobierno creará la Agencia Estatal de Supervisión de la Inteligencia Artificial y control de los algoritmos
Se ocupará, en particular, de lo relativo al desarrollo normativo sobre Inteligencia Artificial y sus posibles usos.

El Gobierno creará la Agencia Estatal de Supervisión de la Inteligencia Artificial y control de los algoritmos

|
30/12/2021 06:49
|
Actualizado: 30/12/2021 01:46
|

Un algoritmo es una serie de instrucciones secuenciales ―es decir, que van uno después del otro― que permiten ejecutar acciones o programas. Es el centro neurálgico de la Inteligencia Artificial. Los algoritmos van a ser cada vez más esenciales en el mundo tecnológico y digitalizado hacia el que nos dirigimos. En su creación pueden contener sesgos o prejuicios que pueden ser favorables o desfavorables para unos u otros ciudadanos.

Esto es lo que quiere combatir y controlar el Gobierno de Pedro Sánchez, que prevé la creación de una nueva entidad: la Agencia Estatal de Supervisión de la Inteligencia Artificial.

Un nuevo ente cuya existencia está contenida en la disposición adicional centésima trigésima de la Ley de Presupuestos Generales del 2022. Su publicación se produjo el pasado miércoles.

Sánchez cuenta con el apoyo de Unidas Podemos y Más País Equo.

La idea es que esta entidad que al mismo tiempo supervise la Inteligencia Artificial y los algoritmos en nuestro país cuente con personalidad jurídica pública, patrimonio propio y autonomía en su gestión.

La Agencia «actuará con plena independencia orgánica y funcional de las administraciones, de forma objetiva, transparente e imparcial», dice el texto legal.

Se encargará de adoptar medidas dirigidas a «la minimización de riesgos significativos sobre la seguridad y salud de las personas, así como sobre sus derechos fundamentales, que puedan derivarse del uso de sistemas de inteligencia artificial».

A través de actuaciones propias, coordinadas con otras autoridades competentes y de apoyo a entidades privadas.

Se encargará del desarrollo, supervisión y seguimiento de los proyectos enmarcados dentro de la Estrategia Nacional de Inteligencia Artificial, así como aquellos impulsados por la Unión Europea.

En particular los relativos al desarrollo normativo sobre Inteligencia Artificial y sus posibles usos.

La Agencia Estatal, según esta enmienda, se encontrará adscrita en la Secretaría de Estado de Digitalización e Inteligencia Artificial. «Empotrada» dentro del Ministerio de Asuntos económicos y Transformación Digital.

Y se regirá por lo establecido en su estatuto orgánico y por lo dispuesto en la Ley de Régimen Jurídico del Sector Público.

En otra disposición, la transitoria decimo séptima se habla de la puesta en marcha de otra Agencia Estatal, esta para coordinar la digitalización de nuestra Administracion, uno de los lastres de los últimos años, aún incompleta, pese a los esfuerzos realizados en los últimos años.

La película «Minority Report», dirigida por Steven Spieldberg e interpretada por Tom Cruise, mostró en 2002 cómo funcionaban los algoritmos y los sesgos negativos que podían contener.

NO ESTÁN CLAROS LOS OBJETIVOS QUE SE PERSIGUEN

Para Raul Rubio, socio del área de derecho tecnológico de Deloitte Legal, “esto era algo anunciado y pactado con otros grupos políticos por parte de este Gobierno de coalición De todas formas, sorprende porque no están claros los objetivos que se persiguen con la creación de esta Agencia. Es importante que no se vea al sector privado como un enemigo”.

A su juicio, “hay una posible estrategia de fomento de la difusión de Inteligencia Artificial y que cristaliza en la Estrategia Nacional para la Inteligencia Artificial donde se habla de fomentar la economía del dato, para que la IA sea un motor crecimiento y desarrollo, como elemento que ayude a la transformación de nuestra sociedad y para mejorar la competitividad”.

Sin embargo, “pese a esa labor de integración con lo ya existente, en el apartado 2 de la disposición se centra más en labores de supervisión y control y, por ende, aunque no se citan sanciones de forma implícita”.

Rubio opina que “es necesario centrar bien los objetivos de dicha Agencia Estatal. Saber qué pretende el Gobierno con esta iniciativa. Si será de apoyo a la innovación o tendrá un espíritu mas de control con lo cual podría dificultar la inversión privada en la IA que es tan necesaria para el país”.

En este escenario surge la problemática con los algoritmos. “Que las empresas privadas compartan esta tecnología con las administraciones no es tarea sencilla. Puede suponer un choque con elementos de libertad de empresa o afectar a secretos empresariales. Generaría situaciones de tensión entre el sector público y el privado”.

Raúl Rubio, de Deloitte Legal, llama la atención sobre el hecho de que «en el apartado 2 de la disposición se centra más en labores de supervisión y control y, por ende, aunque no se citan sanciones de forma implícita».

EL PROBLEMA ESTÁ EN EL USO QUE SE HAGA DE LOS ALGORITMOS

La problemática, sin embargo, «no esta en los algoritmos, sino en el uso que se hace de ellos y sus efectos concretos. Las empresas necesitan seguridad jurídica y estándares éticos para poder desarrollar soluciones de IA con garantía. Es importante la colaboración pública-privada en esta actividad”.

Para Rubio, “los sesgos no se producen por un algoritmo que lo produzca en si mismo, sino porque la fuente de los datos que se utilizan genera ese sesgo, o en otros casos hablamos de tipología de redes de inteligencia artificial, las redes neuronales, donde los resultados se generan de forma poco lógica porque toman esas decisiones”.

Por su parte, Concepción Campos, doctora en Derecho y miembro del Grupo de Análisis y Propuestas de Reforma de la Administración Pública que acaba de concluir sus trabajos con la entrega de su primer informe, “se han separado ambas actividades porque la Inteligencia Artificial tiene una repercusión mayor que la propia Administracion Electrónica”.

Esta jurista reconoce que la IA tiene aún más fuerza fuera del sector público, donde el reconocimiento facial tiene bastantes restricciones en su desarrollo por el momento: “En verano se propuso que España fuera el país piloto para la entrada en vigor del Reglamento de IA Europeo en un año”.

UN OBSERVATORIO QUE TAMBIÉN VIGILARÁ EL SESGO DE LOS ALGORITMOS

Explica que el Observatorio Nacional de Tecnología (ONTSI) acaba de publicar un estudio sobre IA  “al mismo tiempo se van a encargar del Observatorio sobre impacto social de los algoritmos. Ellos ya están poniendo en marcha dicho Observatorio que lo que quiere es tener verificadores para comprobar los sesgos algorítmicos que pudieran existir”.

A su juicio “crear estas dos entidades que pueden ser complementarias, pero independientes en su funcionamiento parece lógico y será más práctico. El problema de la administracion digital está ahí. No se ha resuelto y su desarrollo es muy irregular en nuestro país. Habrá que ver como se constituye y su propia ley de creación, pero parece que puede dar un empujón a esta digitalización que sigue siendo una asignatura pendiente”.

Concepción Campos, miembro del Grupo de Análisis y Propuestas de Reforma de la Administración Pública, reconoce que la IA tiene aún más fuerza fuera del sector público.

Esta experta en derecho público recuerda que “desde el pasado año se recuperó el papel de este tipo de Agencias independientes. Este tipo de entidades funciona con un contrato programa y un plan de actuación. Luego habrá que ver sus estatutos, lo que permite en conjunto una mayor flexibilidad. Hay que darse cuenta que se necesita un ritmo más ágil y ver si realmente ahora el modelo de agencia funciona”.

Campos recuerda que la transición digital es uno de los mecanismos de recuperación que vieje reflejado en el Plan de Resiliencia enviado a Bruselas “tiene una asignación de fondos europeos importante, sobre el 20 por ciento del total, por eso es importante que este tema salga bien en el futuro, porque estamos hablando de impulsarlo como servicio público”.

UNA INICIATIVA A MEDIO PLAZO

Francisco Perez Bes, socio de Ecix Group, cree que la idea es interesante pero hay que acotarla mejor para que no colisione con entidades existentes como la Agencia Española de Protección de Datos, la Comisión Nacional de Mercados de la Competencia (CNMC) o el propio INCIBE.

“Se trata de que este organismo auditase los algoritmos públicos que haya unos procedimientos y auditores que señalen que esa tecnología cumpla con la normativa existente y ética de estos algoritmos”, relata.

“Como ejemplo estaría el ejemplo de la CNMC si saca un algoritmo para controlar los cárteles, sus decisiones deben ser públicas y accesibles a cualquier persona que quiera conocerla. Es posible que hubiera un registro público para tener acceso a todas estas herramientas”, explica.

El caso más claro es de la Inspección de Trabajo que contará a partir del 1 de enero con tecnología automatizada que ayudará al trabajo de estos profesionales: “ese algoritmo debería estar supervisado por esta Agencia Estatal que validaría que esta tecnología cumpliera criterios de calidad”.

Este experto, antiguo secretario general del INCIBE, recuerda que “montar una Agencia desde cero es costoso y laborioso. Hay que buscar una sede, un equipo cualificado al que hay que pagar y contar con un presupuesto claro. Los cinco millones que Mas País pedía para esta iniciativa se me antojan cortos para ponerlo en marcha. Una entidad como INCIBE con 140 personas tenia 24 millones de euros”.

Francisco Pérez, socio de derecho digital de EcixGroup, cuenta que la Inspección de Trabajo que contará a partir del 1 de enero con tecnología automatizada que ayudará al trabajo de estos profesionales: “ese algoritmo debería estar supervisado por esta Agencia Estatal que validaría que esta tecnología cumpliera criterios de calidad».

Desde esta perspectiva “parece claro que hasta antes del verano que viene no estaría operativo por todos estos motivos. Este tipo de entidades orgánicamente siempre dependen de un Ministerio, pero en la práctica deben ser independientes para que hagan su trabajo de forma correcta”.

Respecto a una iniciativa similar en nuestro entorno más inmediato este jurista destaca que la Information Commisioner’s Office (ICO) del Reino Unido, la AEPD de ese país, el regulador de la protección de datos.

“Ha sacado guías relacionadas para el control de algoritmos, es lo más cercano que hay. Este es un organismo del tamaño de nuestra CNMC actual”, revela.

Para Perez Bes: «otra opción que podría haberse hecho es montarla dentro de algún organismo existente. La CNMC ya tiene un área de inteligencia económica para prácticas colusorias. Si de ahí uno ve que el proyecto crece, luego podría convertirse en un organismo con autonomía propia”.

En esta noticia se habla de:

Noticias Relacionadas:
Lo último en Política