En el corazón de la inteligencia artificial, que avanza con la rapidez de una avalancha tecnológica, reside una paradoja inquietante: su capacidad de procesar lo incomprensible, pero al mismo tiempo ocultarlo tras un velo impenetrable, el de sus algoritmos.
Eugenio Ribón, decano del Colegio de la Abogacía de Madrid (ICAM), invitó, el pasado viernes por la tarde, a enfrentar esta paradoja desde un lugar que trasciende la técnica: el compromiso ético con la transparencia.
La justicia, recordó, no puede operar en la oscuridad, y la opacidad de los algoritmos amenazaría con convertir las decisiones judiciales en actos de fe.
El peligro de las «cajas negras»
Los algoritmos que toman decisiones en la Administración de Justicia, cada vez más presentes en sistemas de evaluación de riesgos, asignación de recursos o resolución automatizada de conflictos, funcionan muchas veces como «cajas negras», explicó durante su intervención en el Foro Justicia Inteligente en la Universidad, que tuvo lugar el pasado jueves por la tarde-noche.
En una mesa que coordinó el abogado y magistrado excedente, Javier Puyol, socio director de Puyol Abogados y Asesores y en la que también participaron Carmen Giménez Cardona, vicedecana del Colegio de Procuradores de Madrid, Gabriel López, director de Relaciones Institucionales y Regulación de Microsoft y Cristina Suanzes, abogada del Área de Procesal de Uría Menéndez.
Este término, cargado de simbolismo, describe sistemas cuyo funcionamiento interno es inaccesible: no podemos saber cómo procesan los datos, qué parámetros valoran ni por qué toman las decisiones que dictan.
Para Ribón, esta opacidad no es un simple problema técnico; es un atentado contra el corazón mismo de la justicia. «Sin transparencia», advirtió, «no hay confianza. Y sin confianza, la justicia deja de ser justicia».
El caso del software COMPAS en Estados Unidos es una advertencia global. Diseñado para predecir el riesgo de reincidencia de acusados, COMPAS fue cuestionado por su parcialidad y su incapacidad para explicar cómo llegaba a sus conclusiones.
Los tribunales reconocieron que la falta de acceso al código fuente impedía evaluar si el sistema era justo. ¿Cómo podemos aceptar decisiones que no entendemos? ¿Qué queda de la justicia cuando la razón que la sustenta es ininteligible?
La justicia necesita luz: algoritmos abiertos y verificables
Ribón subrayó la urgencia de diseñar algoritmos abiertos y verificables, que permitan a jueces, abogados y ciudadanos auditar sus procesos y decisiones.
La transparencia no es solo una exigencia técnica; es un principio ético y democrático. «El poder de la justicia», afirmó, «radica en su fundamentación. Cada decisión debe ser explicable, revisable, comprensible. No podemos permitir que los algoritmos sean un dogma inapelable».
El decano alertó sobre un peligro adicional: los sesgos inherentes que los algoritmos pueden amplificar.
Si los datos que alimentan estos sistemas contienen prejuicios históricos —relacionados con género, raza o clase—, los algoritmos los perpetuarán, blindados tras su aparente neutralidad matemática. «La inteligencia artificial es tan justa como los datos que la nutren», sentenció Ribón.
De acuerdo con Ribón, la opacidad de los algoritmos no solo amenaza la equidad; también pone en peligro la evolución de la jurisprudencia. El decano del ICAM invitó a a reflexionar sobre un riesgo menos evidente: el anquilosamiento judicial.
Combatir esta opacidad es, por tanto, una lucha contra la perpetuación de injusticias pasadas.
«La inteligencia artificial debe ser nuestra aliada, no nuestra sustituta». Para Ribón, delegar completamente en algoritmos equivale a abdicar de la responsabilidad humana en la Administración de justicia.
«El día que las máquinas decidan sin supervisión humana, habremos perdido el sentido de la justicia», advirtió.
La labor del juez no se limita a aplicar reglas; implica interpretar, valorar contextos y sentir empatía. Es esa dimensión humana la que da sentido al derecho. Sin ella, la justicia se convierte en una fría transacción.
De acuerdo con Ribón, la opacidad de los algoritmos no solo amenaza la equidad; también pone en peligro la evolución de la jurisprudencia. El decano del ICAM invitó a a reflexionar sobre un riesgo menos evidente: el anquilosamiento judicial.
«Si confiamos ciegamente en sistemas que basan sus decisiones en patrones preexistentes, la jurisprudencia podría estancarse, perdiendo su capacidad de adaptarse a nuevas realidades sociales. La justicia, como la vida, debe ser dinámica, y la transparencia es la llave para garantizar esa evolución», señaló.
Combatir la opacidad para proteger lo humano
La propuesta de Ribón no es una condena a la inteligencia artificial, sino un llamamiento a integrarla con responsabilidad. Los algoritmos tienen el potencial de transformar la justicia, haciéndola más accesible y eficiente. Pero ese potencial solo se realiza si se desarrollan bajo principios de transparencia y ética.
Los algoritmos deben ser luces que iluminen el camino, no sombras que lo oscurezcan.
En un momento en que la inteligencia artificial penetra todos los aspectos de la sociedad, desde el derecho hasta la medicina, Ribón recordó que el control de los algoritmos es una tarea urgente, no solo para proteger la justicia, sino para preservar la esencia de lo humano.
La transparencia no es una opción técnica; es una necesidad moral. Porque, al final, ¿qué es la justicia sino la búsqueda constante de claridad en medio de la incertidumbre? «Si no enfrentamos la opacidad de los algoritmos, ¿cómo podemos garantizar que seguimos avanzando hacia un mundo más justo?», concluyó.
