El presidente de la Sala de lo Penal del Tribunal Supremo, Manuel Marchena Gómez, es una de las voces más preclaras y reconocidas sobre el papel que debería jugar en el futuro la Inteligencia Artificial en la Administración de la Justicia.
Es necesario recordar que Marchena tomó posesión de la plaza de Académico de Número en la Sección de Derecho de la Real Academia de Doctores de España, el pasado mes de octubre, con la lectura de una ponencia «Inteligencia Artificial y jurisdicción penal», que es uno de los trabajos más completos y reflexivos sobre esta materia. Ponencia que encontrará, estimado lector, al final de este artículo.
El presidente de la Sala de lo Penal del Supremo tiene las cosas claras sobre esta temática y hace que los que le escuchan contribuyan a «iluminarse» o ver la luz, como se solía decir antiguamente.
Como sucedió el pasado jueves por la noche en el Colegio de Abogados de Valencia, donde pronunció la conferencia “La deshumanización de la justicia”, dentro del ciclo de la Real Academia Valenciana de Jurisprudencia y Legislación (RAVJL).
Presentado por la académica de la RAVL –y magistrada del Juzgado de Primera Instancia número 4 de Castellón–, Carolina del Carmen Castillo Martínez, Marchena, «a capella» y sin papel alguno, como suele ser su costumbre, reivindicó “una justicia de rostro humano”.
Aseguró que la inteligencia artificial ya está cambiando muchas cosas, pero que más allá del valor instrumental “al final de la cadena debe haber un juez”.
Hasta llegar a esta conclusión, el magistrado hizo un recorrido del estado actual de la inclusión de la Inteligencia Artificial en la justicia a nivel mundial, con casos como el de Shangai o Reino Unido, este último con un dispositivo-robot, ya funcionando, para reclamaciones de escasa cuantía.
“Pero todo esto pertenecía al terreno de lo teórico o al de la preparación del caso, hasta el caso State v Loomis”, aseguró Marchena.
Un caso por el que un condenado acabó yendo a prisión pese a haber llegado a un acuerdo previo con el fiscal debido a que este consultó un programa basado en algoritmos que asignó la etiqueta de “peligroso social” al condenado.
Loomis recurrió al Tribunal Supremo, quien decidió que la aplicación de sistemas predictivos no es contraria a derecho y que la fiscalía puede utilizarlos porque permiten conocer el perfil del acusado.
EL ALGORITMO, LA CLAVE
Esto fue percibido positivamente por parte de la sociedad y fue un escándalo para otra. Al analizar el algoritmo utilizado por el sistema, a través de un estudio informático, se encontraron sesgos racistas y machistas, y en este punto Marchena lanzó la pregunta de si la verdad de una estadística puede convertirse en un axioma.
Marchena tuvo muy presente la filosofía a lo largo de su disquisición, como no podía ser de otra forma.
El magistrado basó su reflexión en el planteamiento continuo de cuestiones basadas en realidades, como las vistas anteriormente y en estudios filosóficos como el de Yuval Noah Harari, quien plantea si caminamos hacia una dictadura digital.
En este sentido, el juez aseguró, basándose en el poder de los datos, que “el estado que más datos pueda tener de nosotros será el más poderoso y que la idea de una justicia que se base en los datos se vislumbra a medio o largo plazo”.
La conferencia acabó, como se ha dicho al principio, con el deseo por parte del juez de ir hacia una justicia todo lo instrumentalmente algorítmica que se quiera, pero en la que el desenlace final sea llevado a cabo por “un juez humano”.
Al acto, en el que estuvo presente el presidente de la RAVJL y nuevo decano del ICAV, José Soriano junto a otros académicos. También asistieron diferentes personalidades, entre ellas, la presidenta del Tribunal Superior de Justicia, Pilar de la Oliva; la también académica de la RAVJL y fiscal superior de la Comunidad Valenciana, Teresa Gisbert; el juez decano de Valencia, César Zenón; el presidente de la Fundación Profesor Manuel Broseta, Vicente Garrido; representantes de las universidades, diputados de la Junta de gobierno del ICAV y magistrados.
