Firmas
Opinión | La Inteligencia Artificial y la función de juzgar
Javier Pujol, socio director de Puyol Abogados & Partners, analiza en su columna por qué un juez robot no sería bueno a la hora de juzgar asuntos humanos.
11/12/2023 06:30
|
Actualizado: 10/12/2023 12:36
|
El papel de los jueces, sobre la base de su independencia representa un pilar fundamental para el funcionamiento de un sistema de justicia que pretenda ser legal, justo, y funcional.
La función de los jueces es fundamental para mantener el equilibrio y la integridad del sistema judicial, y su papel sigue evolucionando para adaptarse a las necesidades cambiantes de la sociedad, y al mismo tiempo, a los desafíos emergentes en el ámbito del derecho.
Su trabajo requiere no solo un conocimiento profundo de la ley, sino también habilidades en la toma de decisiones, un alto grado de imparcialidad, y una capacidad constante para adaptarse a nuevos desafíos y cambios en la sociedad y en los que se produzcan en la ley, pudiendo afirmarse, que el papel de los jueces en el sistema judicial contemporáneo es multifacético y vital para el funcionamiento del estado de derecho, apoyado en la incuestionable separación de poderes.
Ante ello, se plantea en la actualidad la posibilidad de proceder a la sustitución de los jueces humanos por la aplicación de la Inteligencia Artificial (IA).
Todos los cambios que se produzcan en este sentido deben estar presididos por la prudencia y la moderación.
Hoy en día, la aplicación de las técnicas derivadas de la inteligencia artificial (IA) en la función judicial plantea muchos interrogantes y desafíos, particularmente, estos se producen cuando se procede a comparar las capacidades y limitaciones de la IA, con relación a las de los jueces humanos.
Como punto de partida de esta cuestión, se debe hacer referencia al concepto de la empatía, entendida esta, como aquella capacidad que tiene el ser humano de poder comprender y compartir los sentimientos de los demás.
En este orden de cosas, la empatía nos permite ver las cosas desde la perspectiva del otro en vez de ver manera exclusiva la nuestra.
LA INTELIGENCIA ARTIFICIAL NO POSEE UN SENTIDO DE LA MORALIDAD
Por ello, en el análisis de la sustitución de los seres humanos por máquinas basadas en el principio activo de la IA, debe hacerse alusión a la empatía y de manera simultánea al juicio moral que dicho cambio puede llevar consigo, teniendo presente que la IA en la actualidad, todavía no le es posible replicar las propias capacidades existentes en el juicio humano, ya que ello constituye uno de los aspectos fundamentales diferenciadores, precisamente, entre las personas y las máquinas con relación al planteamiento de la sustitución de los unos por las otras a los efectos del ejercicio de esta función.
En este sentido, se puede afirman que, la IA opera basada en algoritmos y datos, y no posee un sentido de moralidad, en el sentido humano del término.
En el momento presente, se reconocen a la IA una serie de capacidades ya consolidadas, de acuerdo con el estado actual de la técnica, que son las que se indican a continuación:
a). El procesamiento de datos.
La IA puede procesar y analizar grandes cantidades de datos legales y precedentes a una velocidad y escala que supera a la humana.
b). Asimismo, debe reconocerse la capacidad de la IA para identificar patrones y tendencias en la jurisprudencia, de tal manera que sea más factible explorar y determinar comunes sobre los pronunciamientos judiciales existentes.
c). La llamada “consistencia de las decisiones”, a través de la cual se ofrece un grado de consistencia y de uniformidad en la aplicación de las reglas y criterios que propician la toma de decisiones, basándose en los datos y algoritmos en los que se entrena.
Ello llevaría consigo una reducción del margen de aleatoriedad y de arbitrariedad de las decisiones judiciales, que finalmente fueran adoptadas, haciendo válido el adagio que dice “a mismo problema, una misma solución”.
d). La posibilidad de que se produzca de manera efectiva una reducción de carga de trabajo que en la actualidad pesa sobre los jueces y los tribunales.
Así, la IA puede asumir tareas repetitivas, rutinarias, o que sean puramente administrativas, liberando de sus tareas y ocupaciones a los jueces humanos a los efectos de que puedan centrarse de manera efectiva, en aquellos aspectos más complejos de los asuntos sometidos a su conocimiento.
Del mismo modo, además de las capacidades a las que se ha hecho referencia, la IA también tiene evidentes limitaciones en el ejercicio de esta función de juzgar, que no sólo son determinantes, sino que tienen que valorarse en este procedimiento de cambio con relación a la función de juzgar.
LIMITACIONES DE LA IA PARA HACER DE JUEZ
A tales efectos, se suelen indicar las siguientes limitaciones existentes en la actualidad por parte en la IA, para el ejercicio de la función de juzgar y que son las que se indican seguidamente:
a). En primer término, la evidente falta de la necesaria de comprensión contextual.
Hoy por hoy, la IA carece todavía de la necesaria capacidad para comprender completamente el contexto y los matices humanos, que son cruciales en el análisis y el enjuiciamiento de muchos casos judiciales.
b). La existencia de un evidente riesgo de sesgo en los datos de entrenamiento.
En este sentido, en este proceso de sustitución, existe el riesgo de que la IA perpetúe o amplifique sesgos o tendencias predeterminadas y existentes en los datos utilizados para su entrenamiento.
Aquí, es necesario poner en evidencia el riesgo que puede producirse como consecuencia de la inconsistencia a la que se puede abocar la toma de decisiones, como consecuencia del procesamiento masivo de grandes volúmenes de información, donde es posible perder la necesaria ponderación, y el equilibrio preciso, en la valoración de las circunstancias concurrentes en cada caso.
A los efectos de tomar aquellas decisiones, que sean más correctas, y que, precisamente, sean la que corresponda de acuerdo con las circunstancias concurrentes en un asunto concreto y determinado.
c). En tercer lugar, se deben tener en cuenta y valorar las dificultades existentes en las exigencias de adaptabilidad y de aprendizaje en estos procesos.
La IA necesita como herramienta que se encuentra en un proceso de constante evolución, adaptación y cambio, unos tiempos que propicien dicha evolución, ya que la misma tiene que ser constantemente actualizada y reentrenada para adaptarse a los cambios en las leyes y normativas, a los usos sociales, y a los avances y modificaciones, que experimenten nuestras sociedades a lo largo del tiempo.
Una cuestión que, sin lugar a duda alguna, debe tenerse en consideración, es la referente a los roles derivados de la empatía y del juicio moral, a los que antes se ha hecho puntual referencia.
LA EMPATÍA ES UNA EXPERIENCIA HUMANA
Con relación a la empatía, es importante considerar el hecho consistente en que los jueces humanos pueden entender y relacionarse con mucha más cercanía y familiaridad con las experiencias humanas.
Esto es especialmente importante en aquellos casos que los que se requiere una especial sensibilidad hacia las condiciones personales y sociales de los involucrados, lo que finalmente representa un elemento determinante en muchos procedimientos judiciales.
Especialmente en aquellos casos en los que cabe la aplicación de circunstancias atenuantes. O, por ejemplo, aspectos personales sensibles, que deben tenerse en cuenta y valorarse a los efectos de resolver adecuada y acertadamente un litigio humano, en este caso, no solo aplicando las leyes, sino velando porque la interpretación de las normas sea siempre, además, lo más justa y equitativa posible.
EL JUICIO MORAL IMPLICA VALORES Y PRINCIPIOS DE ALTO CONTENIDO ÉTICO
Otro elemento que se debe considerar es el que se corresponde con el llamado “juicio moral”, por medio del cual, en la resolución de un procedimiento sometido al conocimiento judicial sea necesario aplicar valores y principios de alto contenido ético que son inherentes a los seres humanos.
En este sentido, se deben comprender aquí los casos relacionados con la aplicación y la defensa de los derechos humanos, de los dilemas éticos de todo tipo, y de aquellas situaciones que requieren una comprensión profunda de los valores sociales y culturales.
Se dice que, en estos casos de alto componente ético, reciben esta denominación, porque guían el comportamiento de las personas, ya que son principios o fundamentos del fuero interno que impulsan el respeto humano en su más amplia dimensión; y al mismo tiempo, tienen un carácter moral porque reflejan los modos habituales de obrar o proceder.
La aplicación de estos valores a la IA, determina que, en primer lugar, por parte de la misma, que no se pueda replicar los principales aspectos en los que se ve reflejada la empatía humana, lo cual es un componente vital e insustituible en la toma de decisiones judiciales, tal y como se viene indicando.
Y al mismo tiempo, debe ser destacado que la IA carece de un juicio o sentido moral en el sentido propio y específico del término, toda vez que, por parte de la misma, no se pueden llevar a cabo este tipo de valoraciones y/o reflexiones morales o éticas, ya que por parte de la misma se carece de la comprensión y de la conciencia moral necesaria a estos efectos.
SUPUESTOS EN LOS QUE LA IA NO PUEDE REPLICAR LOS VALORES DEL JUICIO HUMANO
Como supuestos más evidentes en los que la IA no puede replicar el alcance y los valores del juicio humano, se señalan los siguientes:
a). Los supuestos que contengan un gran contexto humano.
Se trata fundamentalmente de asuntos que implican circunstancias personales complejas, emociones y también experiencias humanas únicas.
En tales casos, la IA no puede replicar el alcance y el significado que representan la comprensión y la empatía que puede desarrollar un juez humano.
b). Los casos que contengan consideraciones morales o éticas complejas.
Estos supuestos representan a aquellos casos que requieren juicios morales o consideraciones éticas, como pueden ser aquellos asuntos relacionados con la aplicación de los derechos humanos, que son difíciles de asumir y comprender por parte de la IA, ya que la misma carece de la capacidad de hacer frente y resolver los problemas inherentes a tales juicios.
c). Los casos con gran complejidad o singularidad, que son aquellos que presentan complejidades únicas o que están fuera de los patrones estándar pueden ser difíciles para la IA, que depende de datos y experiencias previas para tomar decisiones, y ello no es factible que se produzca sin que exista una reprogramación de las máquinas en tal sentido.
d). Los casos que requieren de una comprensión contextual profunda.
En este sentido, debe valorarse en el hecho consistente en que la IA no puede luchar en situaciones que requieren una comprensión detallada del contexto social, cultural o humano, donde los matices y las circunstancias personales constituye un elemento determinante o clave para la resolución de un determinado conflicto jurídico.
e). Y, finalmente, los casos que planteen problemáticas novedosas, sin que exista para los mismos precedentes judiciales.
Frente a dichas situaciones legales nuevas o sin antecedentes sobre la problemática a resolver, y en los que como principal problema se presente el hecho de la ausencia de datos históricos suficientes, que sirvan de apoyo, y como material de entrenamiento de la IA lo que dificulta mucho la aplicación de esta nueva tecnología.
Los jueces humanos pueden interpretar la ley de manera creativa o adaptativa, considerando la evolución de las normas sociales y los valores, algo que la IA no puede replicar.
Consecuentemente con esta situación, puede afirmarse a contrario sensu, que los jueces humanos en la actualidad son más capaces y poseen una mayor facilidad para interpretar y aplicar la ley de manera innovadora.
Todo ello lleva a la conclusión de que mientras la IA puede mejorar la eficiencia y la consistencia en ciertos aspectos del sistema y la función judicial, hay áreas clave donde no se puede replicar el juicio humano.
La empatía, el juicio moral y la comprensión contextual son fundamentales en la función judicial y son cualidades intrínsecamente humanas.
LA IA ES UNA BUENA HERRAMIENTA PARA MEJORAR EL PROCESO JUDICIAL
La IA, por lo tanto, se posiciona mejor como una herramienta de apoyo para mejorar aspectos del proceso judicial, mientras que los jueces humanos siguen siendo esenciales para la toma de decisiones finales en muchos aspectos de la ley, a los efectos de garantizar que la justicia se administre de manera completa, justa y humana.
Por lo tanto, aunque la IA puede servir como tal herramienta útil en el sistema judicial, los jueces humanos siguen constituyendo un elemento esencial del sistema judicial, y de la función de juzgar, no pudiendo ser sustituidos por máquinas basadas exclusivamente en la IA.
No obstante, ello, es evidente que cada vez más, la existencia de una colaboración entre IA y los jueces humanos puede ofrecer un mejor equilibrio entre los valores que representan la eficiencia, la equidad, y la comprensión humana.
El análisis comparativo de las capacidades y limitaciones de la inteligencia artificial (IA) frente al juicio humano en el ejercicio de la función judicial, así como el papel de la empatía y el juicio moral y los casos en los que la IA no puede replicar el juicio humano, es un área que cada día cobra un mayor interés y una gran relevancia.
Todo esto destaca, hoy por hoy, la importancia y al mismo tiempo la necesidad de mantener un equilibrio entre el uso de la IA para mejorar la eficiencia y eficacia del sistema judicial, mientras se debe seguir preservando el papel central de los jueces humanos en la toma de decisiones, particularmente, en aquellos casos, que por sus características y circunstancias puedan ser considerados como complejos y especialmente sensibles, donde los mismos dado el avance actual de la técnica, siguen siendo insustituibles.
Otras Columnas por Javier Puyol Montero:
