El magistrado de la Sala de lo Penal de la Audiencia Nacional, Joaquín Delgado, ha reivindicado la importancia de llevar a cabo un debate social serio para saber cuándo queremos aplicar la Inteligencia Artificial (IA) y cuando no. Y que ello quede plasmado a través de una ley que regule las condiciones.
Lo hizo en el Foro de Expertos Confilegal titulado «Inteligencia Artificial: ¿un aliado estratégico para la práctica legal y para la Administración de Justicia?», que tuvo lugar el miércoles pasado en el Campus WPP La Matriz, Madrid, y que moderó el director de Confielgal, Carlos Berbell.
Participó en una mesa redonda junto con Ofelia Tejerina, letrada y presidenta de la Asociación de Internautas y Borja Adsuara, experto en derecho digital, privacidad y protección de datos.
Delgado también hizo una reflexión sobre los «enormes riesgos que están generando las soluciones de IA para todos nuestros derechos en el ámbito de privacidad». De modo que consideró muy importante tener un Poder Judicial que tutelase esos derechos.
Sin embargo, lanzó una pregunta al aire: ¿realmente está preparado el Poder Judicial actual español para ello?
Por ello, hizo hincapié en la importancia de analizar los riesgos existentes. «Hay que hacer como Dora la Exploradora, un mapa de riesgos» para saber «qué es lo que se puede asumir, y qué no».
El factor humano es necesario
Adsuara manifestó que para él la digitalización es «la larga marcha hacia la tierra prometida» porque lleva años hablando de ella. Aunque reconoció que esta etapa no había hecho más que empezar al quedar mucho tiempo para que se convirtiese en un sistema experto. «Hay que supervisarlo y entrenarlo».
Y confirmó lo que a muchos les da miedo: «por ahora, el factor humano será necesario». Si se hacen máquinas que apliquen la ley, no se tendría en cuenta que la aplicación rigurosa del derecho produce injusticias. Es decir, «se estaría obviando el juicio de equidad del juez, el cual no puede tener una máquina».
Estas tecnologías «nos van a cambiar la vida muchísimo, y para bien». Ya que «si el 80% se puede automatizar, los jueces se podrán dedicar a los casos complejos en los que hay que innovar, al igual que los abogados”.
Como ejemplo de cambio de vida, Adsuara puso que, cuando él era estudiante de Derecho, tenía que acudir a la biblioteca para conocer la doctrina. Ahora todo eso se encuentra en cualquier plataforma de una editorial jurídica. Sin embargo, apuntó la importancia de «saber leer entre líneas y darle la vuelta a las cosas para destacar de los demás».
UN JUEZ ROBOT
Por su parte, Tejerina también resaltó la importancia de que la tecnología y el progreso tienen que ir de la mano de la evaluación de riesgos para evitar problemas. Y abrió el melón sobre el juez robot.
Está de acuerdo con su creación, aunque con matices. “Cualquier abogado ejerciente podrá estar de mi lado si considera la cantidad de batallas jurídicas que ha perdido injustamente. He perdido recursos que estaban perfectamente motivados y el fallo fue completamente contrario a lo que yo pedía”.
Comentó que había cuestiones que un robot podría resolver sin emociones. «El humano emocional a veces es injusto, y se cree a gente llorando cuando no se tendría que creer», por lo que quizá un robot «impartiría justicia de forma más justa».
Por alusiones, Delgado explicó que reproducir la operación intelectual humana de decidir sólo puede hacerse a través de «cosas muy sencillas». Por ejemplo, una sentencia de conformidad, un procedimiento monitorio o unas cláusulas suelo. Pero cuando «lo quieres construir para valorar pruebas o circunstancias atenuantes, es imposible reproducir la operación intelectual del juez».
“En España necesitamos tecnología, pero también un cambio de organización, por ejemplo, habría que empezar a hablar de otros modelos de jurisdicción o la transformación digital de la justicia teniendo expediente digital en todo el país”, resaltó el magistrado.
A este argumento de Delgado se sumó Adsuara. El juez robot «lo ve como una herramienta asistente, no como el que toma la decisión» porque ese papel es del juez y no se puede delegar. .
Revisar para no presentar jurisprudencia falsa
Delgado no se fiaría nunca de un resultado de ChatGPT.
Por ello, Adsuara, lanzó una baza a favor de las empresas que crean IA, pues con su sello dan confianza al saber que son prescriptores de contenidos. Para él, el mayor fallo que tiene ChatGPT es que «bucea en la mar ocena y no pone ninguna referencia a las fuentes, lo que va en contra del derecho de cita de la propiedad intelectual, hay que pasar del alucina vecina al del caserío me fío por la marca».
Pero para Tejerina, es muy importante que la IA que se vaya a usar disponga de una buena base de datos, que es la que pondrá valor al resultado que obtengamos. Aunque aconsejó revisar siempre después el texto que ofrezca. Ella, por ejemplo, revisa los artículos para saber si no se los ha inventado.
A sus alumnos de la universidad les insiste en que han de hacerlo para que no les pase como al abogado estadounidense que presentaba jurisprudencia falsa.
Es más, Tejerina confesó que conocía abogados que habían presentado jurisprudencia falsa. Sin embargo, destacó que cree, que en un futuro, quien tenga dinero tendrá un abogado persona, y quien no, robot, el valor será lo humano.
El magistrado Delgado se quiso alejar «un poquito» del tema para hablar sobre el acceso a la Justicia. Destacó cuatro conceptos: empoderar a las personas para que conozcan cómo defender sus derecho; la Justicia preventiva, que son los notarios y los registros públicos; medios adecuados de resolución de conflicto como la mediación o negociación y, por último, los jueces.
«En cada uno de estos elementos tiene un gran campo de juego el universo de la IA para la alfabetización jurídica o el asesoramiento de las personas». Quiso hacer hincapié en la automatización de procesos para quitar tiempos o asistencia al juez para que tome una decisión o clasificar un volumen de información.
