La Inteligencia Artificial (IA) ha irrumpido en la vida de la humanidad, y como es lógico, también en el derecho, abriendo un horizonte sin línea visible, lleno de posibilidades, pero también de legítimas inquietudes, ante la posibilidad de que lo que hasta ahora eran decisiones sobre la justicia exclusivamente humanas, puedan encomendarse o delegarse en un robot, y adoptarse mediante algoritmos previos, con igual o superior posibilidad de obtener un resultado justo.
Inteligencia Artificial y decisiones judiciales: oportunidades y temores legítimos
Recordemos en primer lugar como referencia histórica clásica, la bien conocida disertación del gran jurista Oliver Wendell Holmes, sobre el derecho y la moral, donde defiende el “escepticismo moral”, y se opone a todo derecho natural, de suerte que el derecho para él no es más que la suma de experiencias sobre la previsibilidad de las decisiones de los jueces (realismo jurídico), como luego desarrolló la escuela del realismo escandinavo (Ross).
Pues bien, si el designio del derecho no es la justicia en sí misma, sino la previsibilidad de las decisiones, el campo de la Inteligencia Artificial parece inmenso, si bien sin olvidar algo fundamental que recalcamos desde Administrativando Abogados: la IA adopta o puede adoptar decisiones correctas, pero ella misma no comprende sus propias decisiones, ya que carece de consciencia humana, única capaz de guiarse por criterios de valor, estrategia y de sentido.
En todo caso, la inteligencia artificial es una realidad a la que el derecho procesal no puede ser ajeno. Son indudables las ventajas que presentan en términos de coste y tiempo para la Administración de Justicia y los operadores jurídicos e incluso en determinadas ocasiones pueden contribuir a alcanzar un resultado más objetivo.
La necesidad de un marco legal específico para la IA judicial
Sin embargo, tan visibles son sus beneficios, como los potenciales riesgos que entrañan para los derechos y las garantías fundamentales del proceso. La opacidad o la falibilidad de estas decisiones pueden afectar irremediablemente al derecho de defensa, y, por tanto, debemos plantearnos qué futuro queremos, es decir, si la justicia algorítmica es imparable, cómo queremos que se configure en el proceso, y cómo debe limitarse.
Y es obvio que ello sólo podrá y deberá hacerse mediante un marco legal específico, que identifique los riesgos existentes y contemple medidas para evitarlos, no sólo paliarlos, ya que la eficacia y la eficiencia nunca pueden prevalecer sobre la justicia en sí misma.
Podemos partir de la definición de IA de la Comisión Europea en 2018, según la cual los sistemas de IA son: «sistemas de software (y en algunos casos también de hardware) diseñados por seres humanos que, dado un objetivo complejo, actúan en la dimensión física o digital mediante la percepción de su entorno a través de la obtención de datos, la interpretación de los datos estructurados o no estructurados que recopilan, el razonamiento sobre el conocimiento o el procesamiento de la información derivados de esos datos, y decidiendo la acción o acciones óptimas que deben llevar a cabo para lograr el objetivo establecido».
Es por ello que, en determinadas ocasiones, podrán contribuir a objetivar determinadas situaciones y, en consecuencia, obtener soluciones «más justas». Y por lo que respecta al ámbito de la justicia predictiva, estos sistemas se han definido como aquellos que utilizan un gran número de datos de distinta naturaleza que, procesados mediante algoritmos, ofrecen información sobre el comportamiento futuro de una persona en distintos escenarios.
Principios procesales en riesgo: inmediación, oralidad e imparcialidad
Pero resulta evidente imaginar los riesgos que se derivan de la aplicación de herramientas de IA en el proceso judicial y el impacto que esto puede tener en los principios y garantías fundamentales de naturaleza procesal cuando el órgano judicial adopte una decisión con base en el resultado de la máquina. Dejando de lado el derecho de defensa y la contradicción, la afectación podrá alcanzar también a los principios esenciales del proceso. Así pues, como pone de relieve la doctrina, en un contexto de toma integral de decisiones por una máquina, carecería de sentido hablar de inmediación y oralidad, entre otras muchas instituciones procesales.
También podrá tener un impacto sobre el principio de imparcialidad en la actuación jurisdiccional, en la medida en que el juzgador pueda prejuzgar el asunto debido a la decisión inicial de la máquina, o incluso que su decisión adolezca de los sesgos que puedan existir en el algoritmo.
Todo ello en tanto que los algoritmos relejan los datos con los que se los alimenta, por lo que, si esos datos incorporan sesgos, el algoritmo los reproducirá o incluso los potenciará.
Regular la IA sin rechazarla: una posición equilibrada
La realidad es que no podemos desviar la mirada ante los riesgos que plantea la utilización de estas herramientas, pero tampoco adoptar una visión pesimista y de rechazo absoluto hacia estas, sino que el objetivo debe ser eliminar tales riesgos para poder también disfrutar de las innumerables ventajas que presenta.
Por ello, desde Administrativando Abogados, entendemos que la Ley debe identificar y reconocer las insuficiencias de estas herramientas, sus sesgos y sus riesgos, lo que es compatible con tratar de corregirlas y regularlas. También, evidentemente, será el legislador y nuestros Tribunales los que limiten su alcance y acoten su aplicación. Esta corrección debe hacerse desde el más absoluto respeto a los derechos fundamentales, con una visión realista, que pondere adecuadamente los valores en juego e incorpore a la tecnología los valores éticos.
