PUBLICIDAD
PUBLICIDAD

La Inteligencia Artificial será regulada por la Comisión Europea: ¿Por cuál de los 5 planteamientos optará?

La Unión Europea ha esbozado, en un informe, los elementos de un próximo marco jurídico para esta actividad.
|

Así se desprende del informe que ultima la Comisión Europea sobre esta tecnología, al que Confilegal ha tenido acceso a su contenido.

Se trata, como siempre ha sido a lo largo de los últimos años, de ver cómo encontrar el equilibrio entre el desarrollo tecnológico y la protección de los derechos fundamentales.

En este contexto legal, habrá que ver como queda definido el reconocimiento facial del que muchos expertos dudan por su carácter invasivo

Moisés Barrio, letrado del Consejo de Estado y experto en derecho tecnológico, aborda en uno de sus últimos libros, “Manual de Derecho Digital”, editado por Tirant Lo Blanc, dicha cuestión normativa.

PUBLICIDAD
PUBLICIDAD

“Este ‘paper’ de la Unión Europea es uno de los más relevantes de los últimos años. Esboza los elementos de un próximo marco jurídico para esta actividad”, explica.

Desde el punto de vista de Barrio, la Unión Europea esboza dicho entorno legal con “un enfoque prudente y equilibrado. Quiere, con su intervención, que no se impida la innovación y que, al mismo tiempo, se garanticen los derechos fundamentales de los ciudadanos y los pilares fundamentales del derecho europeo”.

El documento trata varias opciones y modelo regulatorios.

PUBLICIDAD
Moisés Barrioesletrado del Consejo de Estado y experto en derecho tecnológico.

“Posiblemente se quiera adoptar una combinación de todos ellos. Al final, lo que se busca el equilibro entre la innovación y los derechos de terceros”, apunta.

En ese informe, que estará ultimado dentro de un mes, se abordan distintas cuestiones, como técnicas regulatorias que irían, según Barrio, desde “el etiquetado voluntario, los requisitos sectoriales para la Administración Pública y el reconocimiento facial. Aquellos otros obligatorios, basados en el riesgo para aplicaciones de alto riesgo, cuestiones de seguridad y responsabilidad y la gobernanza”.

También la UE se plantea una fuerte supervisión pública de la inteligencia artificial.

PUBLICIDAD

Para Barrio ésta podría ser conjunta, “tanto de la UE y de los estados miembros. Se estudia la posibilidad de crear una Agencia Pública sobre Inteligencia Artificial, o que los estados miembros creasen una entidad que gestionase estos tema”.

PUBLICIDAD

En el caso de España, el Gobierno se lo podría dar a un organismo como INCIBE, centrado ya en temas de ciberseguridad, “o poner en marcha, si al final avanzan los trabajos en esa dirección, una Agencia Pública Independiente, al igual que existe un Consejo Nacional de Seguridad Nuclear o una Comisión Nacional de los Mercados y Competencia (CNMC)”.

En este contexto, “cabría la posibilidad de que la solución que se aplique distinga entre las aplicaciones de IA de alto riesgo y de riesgo bajo. Las aplicaciones de riesgo bajo estarán a la normativa actual y se reformarán directivas de producto defectuoso y aquella otra sobre seguridad de los productos”.

Para las aplicaciones de alto riesgo de Inteligencia Artificial (IA),  ya sea por sus consecuencias o por los sectores, “como pueden ser temas sobre sanidad y justicia, se establecerán requisitos más intensos para la gestión de dichas aplicaciones, tanto a nivel de sector público y privado”.

El derecho europeo tendrá que trabajar en estos temas.

PUBLICIDAD

EL RECONOCIMIENTO FACIAL, EN EL DISPARADERO 

En cuanto al reconocimiento facial, Barrio cree que no se ha interpretado bien la lectura del documento que está analizando de la UE sobre la IA.

Es una opción que se plantea en el documento pero no que se vaya a hacer. Desde aquí se plantea si el reconocimiento facial debería modificarse como hipótesis”, opina.

En cuanto a su posible prohibición, “solo es una opción. Se plantea de forma temporal por cinco años. En ese periodo de tiempo se realizarían estudios de impacto para ver realmente como regularlo a medio plazo”.

La prohibición no sería de forma absoluta, entonces.

Artificial Intelligence o Inteligencia Artificial, la Unión Europea no quiere dejar pasar este tren.

ALGORITMOS

El documento se ocupa también de la decisión automatizada por los algoritmos.

Barrio también destaca otra cuestión es “el acceso a los datos. Los algoritmos necesitan gran cantidad de datos. Y solo las grandes tecnológicas tienen acceso esos datos”.

Este jurista nos señala que el “paper” se ocupa con dos medidas concretas.

“Se habla de crear unos espacios europeos de datos y se obliga a las Administraciones Públicas a poner en cada estado conjunto de datos abiertos en formato máquina y de forma gratuita. Una iniciativa muy innovadora, sin duda”.

Para Barrio la propia estrategia española de I + D + I  “que se presentó en marzo del 2019 ya habla esto y también baraja la posibilidad de crear un Instituto Público de Datos. Estamos hablando de realidades a corto plazo”.

UN  DOCUMENTO DE GRAN INTERÉS

En opinión de Pablo García Mexía, jurista digital, “Of Counsel” (consejero jurídico) de Ashurst LLP, “este documento describe las fortalezas de la UE en este campo, pero también que estamos muy por detrás de los dos grandes líderes: Estados Unidos y China”. 

También señala que “la Inteligencia Artificial se ha convertido ya en un elemento geoestratégico de primerísima importancia, de ahí la imperiosa necesidad de que la UE tenga una posición autónoma y fuerte en este campo. Otra cosa será caer en un futuro ‘teledirigido’ por potencias foráneas, cuyos intereses muchas veces no coinciden con los nuestros”.

García Mexía destaca que “se subraya la necesidad, no solo de proteger, sino también de facilitar el acceso a los datos en la UE. Es un acierto, pues los datos son ‘el alimento’ del entorno digital, en particular de los sistemas artificialmente inteligentes. Sin datos, no hay inteligencia”.

Otra cuestión del “paper” es que “que la Inteligencia Artificial está ya regulada en la UE en muchas áreas, desde el Reglamento General de Protección de Datos hasta la responsabilidad de productos, entre otras. No obstante, y coincido con ello, la Inteligencia Artificial, ha generado algunas lagunas e ineficiencias, las cuales se detallan, tras haber sido recopiladas pacientemente por la Comisión, lo que constituye una aportación tan original como útil.

Pablo García Mexía, jurista digital y “Of Counsel” (consejero jurídico) de Ashurst LLP.

5 OPCIONES ANTE UNA POSIBLE REGULACIÓN DE LA INTELIGENCIA ARTIFICIAL

Finalmente, en lo que constituye la médula de su propuesta, este jurista analiza los cinco escenarios  de una posible regulación de la Inteligencia Artificial:

1.- ETIQUETADO VOLUNTARIO

O lo que es lo mismo, modelo similar a los escenarios de “soft-law”(derecho blando) autorregulatorio existentes por ejemplo en el vigente RGPD.

A su juicio, “es la solución más liviana, vendría casi a dejar las soluciones en el plano ético, si bien es también pro ello la más respetuoso con la innovación en este ámbito, crucial para los europeos, por lo ya dicho”.

2.- REGULACIÓN SECTORIAL 

Solo para la Administración Pública y con una particular normación para el reconocimiento facial, como se sabe altamente intrusivo para la privacidad.

García Mexía cuenta que “aunque es el aspecto más resaltado en medios generales, en cuanto plantea la posibilidad de que se prohibieran estás tecnologías durante un periodo de entre 3 y 5 años, con la excepción de algunos usos, en realidad no es una opción que la Comisión defienda, pues  congelaría la innovación europea en estas tecnologías”.

3.- REGULACIÓN OBLIGATORIA PARA APLICACIONES DE “ALTO RIESGO”

“Siendo definido éste por sectores y, acumulativamente, por los efectos que puede llegar a generar en las personas legales y daño físico o material”, aclara García Mexía.

4.- ACTUALIZAR LA LEGISLACIÓN EUROPEA EN MATERIA DE SEGURIDAD Y RESPONSABILIDAD DE PRODUCTOS Y SERVICIOS 

“Es una exigencia ya formulada por la Organización Europea de Consumidores, y que resulta imprescindible a la vista de que los escenarios clásicos  hacen claramente aguas al topar con la Inteligencia Artificial, aunque solo fuera por la imprevisibilidad que de la misma deriva muchas veces”, precisa.

5.- SUPERVISIÓN DE LA NORMATIVA QUE SE ADOPTE POR PARTE DE AUTORIDADES PÚBLICAS 

“Se convendrá no obstante, en que más que una opción, esta alternativa quinta es una exigencia de la adopción de cualquiera de las anteriores”, apunta.

¿POR CUÁL SE DECANTARÁ LA COMISIÓN EUROPEA?

“Por  una combinación de las opciones tercera, cuarta y  quinta. Se trataría, primero, ir más allá de la mera autorregulación, con normas jurídicas imperativas, en determinados ámbitos especialmente afectados; y, al tiempo, acotar esos ámbitos de un modo concorde con sensibilidades sociales y apreciaciones científicas ya bien puestas de manifiesto”, revela García Mexía.

“Entiendo que la opción primera, ética y autorregulatoria, es perfectamente combinable con cualquiera de las demás. Y que en cualquier caso debiera ponerse en marcha, se haga o no con las otras cuatro”.

Y añade que “esta última es la que puede hacer realidad un principio, a mi entender el más importante de la aproximación ética y de la regulación ética de la Inteligencia Artificial, como es el de centralidad de la persona humana, y que, para mi sorpresa, está ausente, por cierto, en el documento de la Comisión”,

CALENDARIO DE REFORMA 

En cuanto a las fechas que baraja la UE para regular la Inteligencia Artificial, al parecer el siguiente paso será una consulta publica sobre este asunto.

“Estamos hablando de un documento de trabajo aún sin concluir”, cuenta.

Se cerrará  en febrero. Se buscará en dicha consulta pública el “feedback” (retorno) del sector, tanto a nivel de Estados como de expertos, sociedad civil, industria etc.

Con todo ello la UE trazaría su propuesta legislativa.

En un año habrá propuesta de reforma de una Directiva o de un Reglamento.

Sobre la regulación, la Comisión Europea deja abierto si habría un reglamento o combinarlo con reformas normativas en directivas de productos defectuosos de 1985 o seguridad de los productos y en el propio RGPD.

“Es posible que sea un enfoque combinado en estos temas. Un Reglamento sobre las aplicaciones de iA de alto riesgo para que el mercado interior  que no se rompa con reformas en vigor”, dice Barrio.

En España, a la hora de afrontar la regulación jurídica no tiene sentido que haya una regulación cada una.

Al final los estados miembros se van a ejecutar la Directiva.

“No tiene sentido tener 27 normas nacionales reguladoras de la Inteligencia Artificial. España no está por introducir regulación, sino que se haga en clave europea”, concluye este experto.