La XIII Cumbre de Mujeres Juristas, celebrada el jueves y viernes de esta semana en la Sala Ernest Lluch del Congreso de los Diputados, concluyo ayer con un mensaje de advertencia dirigido a los poderes públicos, al sector tecnológico y a la propia profesión jurídica: la inteligencia artificial no es neutral, puede reproducir y ocultar discriminaciones por razón de género, y su despliegue exige garantías efectivas ancladas en el Estado de Derecho.
El evento, organizado por el Ilustre Colegio de la Abogacía de Madrid (ICAM) bajo el lema «Desafíos y amenazas para la igualdad en la era de la Inteligencia Artificial», reunió a juristas de distintas disciplinas para debatir los riesgos que el uso masivo de sistemas algorítmicos plantea sobre derechos fundamentales.
Las conclusiones fueron leídas de forma conjunta por Ana Buitrago, diputada del ICAM, y José Ignacio Monedero, secretario de la Junta de Gobierno del Colegio, quienes se repartieron los distintos apartados del documento ante los asistentes.
El sesgo que no se ve
Uno de los ejes centrales del debate fue la capacidad de los sistemas de IA para incorporar y amplificar sesgos sin que resulten fácilmente detectables ni impugnables.
Las conclusiones advierten expresamente de que eliminar el dato de género de un algoritmo no garantiza la ausencia de discriminación, ya que los sesgos pueden persistir a través de variables proxy aparentemente neutras.
A ello se suma el riesgo de lo que la Cumbre denominó «confianza excesiva en recomendaciones automatizadas» y la falta de diversidad en los equipos que diseñan estos sistemas.
Frente a ello, las juristas reafirmaron el valor de marcos jurídicos ya vigentes: el Reglamento General de Protección de Datos (RGPD) y, especialmente, la Ley 15/2022 de igualdad de trato y no discriminación, que contempla la discriminación por asociación o por error y permite abordar el tratamiento de variables que infieren rasgos sensibles.
La responsabilidad no se delega al algoritmo
Un principio que atravesó todas las mesas de debate fue el de la rendición de cuentas indelegable: ninguna decisión automatizada con efectos relevantes sobre derechos puede carecer de un responsable jurídico identificable, de supervisión humana efectiva y de vías reales de revisión e impugnación.
En el ámbito del empleo, subrayaron la necesidad de preservar la intervención humana en la decisión final.
En cuanto al Reglamento Europeo de la IA, las participantes valoraron la existencia de un marco regulatorio común basado en riesgos, pero advirtieron de que su eficacia real dependerá de su implementación práctica y de herramientas operativas complementarias: gobernanza, códigos de conducta y supervisión continua.
Violencia digital: no es violencia menor
La Cumbre también abordó con especial preocupación el fenómeno de la violencia digital de género.
Las conclusiones alertan sobre la capacidad de la IA para amplificar agresiones y humillación pública —a través de herramientas como el ciberacoso o las deepfakes— con una incidencia desproporcionada en mujeres y niñas, tanto en la adolescencia como en el ámbito laboral.
Se rechazó expresamente que este tipo de violencia sea considerada menor por producirse en entornos digitales.
En el plano procesal, las juristas reclamaron una respuesta integral que combine la identificación del responsable con la retirada rápida de contenidos para evitar la revictimización, junto con la preservación de prueba técnicamente válida —soporte digital, informe pericial y cadena de custodia— y coordinación interinstitucional.
El compromiso de la abogacía
La declaración final de la Cumbre concluye que el despliegue de la inteligencia artificial solo será compatible con una democracia avanzada si se somete a garantías efectivas, verificables y exigibles.
La abogacía, señalan las conclusiones, asume el compromiso de liderar esta agenda desde su función constitucional: hacer exigibles esas garantías, acompañar a las personas afectadas y contribuir a que la innovación tecnológica se alinee con la igualdad real y efectiva.
