Control humano, violencia digital y transparencia; estas son algunos de los factores que se han expuesto en la XIII Cumbre de Mujeres Juristas que se ha celebrado en el Congreso de los Diputados. Un encuentro en el que todos los ponentes coincidieron en un enfoque clave: la llegada de la Inteligencia Artificial es indiscutible y revolucionaria, pero debe implantarse desde el respeto por los derechos fundamentales, y con control sobre los algoritmos.
Este 5 de marzo tenía lugar la primera jornada de la XIII Cumbre de Mujeres Juristas del Ilustre Colegio de la Abogacía de Madrid (ICAM) en el Congreso de los Diputados.
Un encuentro en el que, a través de diferentes ponencias, se ponía en relieve la gran transformación social y profesional que ha supuesto la llegada de la Inteligencia Artificial (IA). Una herramienta que, sin embargo, no siempre tiene un carácter positivo.
Especialmente, en materia de Igualdad. Y es que, mientras que un buen uso de la IA puede suponer una mejora social de gran importancia, la falta de conciencia y educación en su uso puede profundizar en la discriminación hacia las mujeres.
Planteamiento que se ha analizado en las diferentes ponencias del evento. Y que dejaban varias claves para entender el presente y el futuro de la relación entre la Inteligencia Artificial, y la lucha por la Igualdad real.
Así pues, cinco son las claves que, en el desarrollo de esta primera sesión de la XIII Cumbre de Mujeres Juristas en el Parlamento, han salido a la luz para todos los asistentes.
La IA puede consolidar sesgos históricos
Una idea que se ha repetido durante todas las ponencias que han tenido lugar en el Congreso de los Diputados.
Así, era la vicedecana del ICAM, Isabel Winkels, la primera en poner de manifiesto que la IA puede ser un foco que «consolide sesgos históricos». Ello, debido a que es un «fondo de datos que aprende de sesgos que existen en la sociedad».
«No podemos permitir que la IA de pasos atrás en lo que hemos conseguido las mujeres en los últimos 50 años», destacaba la vicedecana.
Posición en la que también se colocaba Amelia Valcárcel Bernaldo de Quirós, durante la conferencia inaugural.
«La igualdad es la causa del mundo libre. Y la igualdad no pertenece al orden espontáneo de las cosas. El ser humano se humaniza a medida que le impone a la naturaleza fines que no están establecidos. En la medida que se impone mejorar lo que ocurre», destacaba.
El control humano, clave en la implantación de la IA
«La inteligencia Artificial no es inteligente. No tiene empatía, no tiene capacidad de escucha. Eso son capacidades humanas. La IA es una herramienta que los seres humanos deben usar para sus decisiones. Pero la última palabra debe tenerla una persona», explicaba la abogada Pilar Menor.
Una idea en la que también profundizaba el decano del ICAM Eugenio Ribón.
«La IA puede ser una herramienta extraordinaria. Pero sólo será verdaderamente compatible con el estado de derecho si se desarrolla bajo el escrutinio de juristas que defiendan los derechos fundamentales», aseguraba.
La discriminación «escondida» en los algoritmos
Intervención clave de los seres humanos en las decisiones IA que no sólo debe afectar a la hora de toma de decisiones laborales o empresariales, sino también en la propia construcción de los algoritmos y de los sistemas de control de la inteligencia artificial.
«Google te ofrece respuestas distintas si buscas «juez» o «jueza». También en la diferencia entre «colegial» o «colegiala». Son sesgos de la inteligencia artificial que nos encontramos en algo tan básico como el buscador», exponía Marisa Cruzado.
Unos sesgos que estuvieron presentes en la creación del Reglamento IA, tal y como recordaba, por su parte, Almudena Arpón. Pero que no es suficiente para garantizar el control sobre los algoritmos.
«Confiamos en lo que dicen las máquinas, aunque no sepamos qué errores hay detrás del sistema. Es un fallo humano de confianza, pero hay puntos ciegos», explicaba Lorenzo Cotino, presidente de la AEPD.
Unos puntos ciegos que se basan, esencialmente y tal y como recordaba Ribón en que el algoritmo de la IA puede contener discriminación «invisible». Algo ante lo que sólo se puede luchar con transparencia en estos sistemas digitales.
Violencia digital, peor que la física
Pero no sólo la llegada de la Inteligencia Artificial ha preocupado en este encuentro del ICAM. También la violencia digital ha centrado parte del debate, bajo las intervenciones de Escarlata Gutiérrez y Manuel Marchena.
Y es que la IA también fomenta esta violencia digital, con deepfakes, fotos generadas con IA, amenazas o insultos. Todo ello, a través del anonimato.
«Creo que la responsabilidad de los operadores de servicios, y acabar con la anonimización, debe ser clave», remarcaba en este sentido la fiscal, en cuanto a los graves sucesos de acoso que se produce especialmente en las redes sociales, y que ella misma sufrió en X.
Idea en la que coincide el magistrado del Supremo, que lamenta el punto de afectación de esta digitalización en la violencia. Una violencia digital mucho más grave, para el magistrado, que la física.
«Estamos creando dos realidades. Una convencional, en la que los principios que determinan la convivencia admiten unas críticas incluso destructivas. Y una realidad virtual, en la que se puede decir todo, y no pasa nada», ha criticado.
Educación y participación femenina en el desarrollo IA
Una encrucijada actual de aplicación social de la IA en la que, en la XIII Cumbre de Mujeres Juristas, se ha querido poner el foco en la educación, especialmente de los más jóvenes, así como en la participación de las mujeres en el control de estos algoritmos.
«No se puede poner a un Homer Simpson a controlar la IA» destacaba, bromeando, Lorenzo Cotino.
Un control en el que Winkels recordaba que es necesario un aumento de presencia femenina. «La propia UNESCO ha advertido de forma expresa que esta baja presencia de la mujer en estas estructuras puede provocar que la IA amplifique sesgos discriminatorios», ha advertido.
«No hemos sabido educar a los jóvenes para evitar que la IA repita y mantenga esos sesgos históricos de discriminación», ha lamentado por su parte Ofelia Tejerina, que ha sido muy tajante a la hora de marcar la línea a seguir: «O eres feminista, o eres un cretino».
