Eloy Velasco-Ángel Niño en su mano a mano: «Las máquinas se equivocan» y «El ser humano ya no es necesario»
El magistrado, Eloy Velasco, y el concejal, Ángel Nuño, coincidieron en que tiene que haber un derecho común a nivel mundial.

Eloy Velasco-Ángel Niño en su mano a mano: «Las máquinas se equivocan» y «El ser humano ya no es necesario»

|
22/5/2022 06:51
|
Actualizado: 24/5/2022 14:37
|

A pesar de las apariencias, la sangre no llegó al río en este mano a mano entre el magistrado de la Sala de lo Penal de la Audiencia Nacional, Eloy Velasco, uno de los grandes expertos en tecnología aplicada a la Administración de Justicia, y Ángel Niño, concejal –por Ciudadanos– delegado del área de Innovación y Emprendimiento del Ayuntamiento de Madrid, y uno de los grandes divulgadores sobre el nuevo mundo tecnológico que está cambiando nuestras existencias y que tuvo lugar ayer por la mañana en el Madrid Innovation Lab.

Sobre la mesa, un planteamiento muy simple por parte del Ateneo Judicial Español, el organizador: «Inteligencia artificial y sistema jurídico». Moderados por la magistrada Elena del Oro.

El magistrado, líder del grupo de jueces y tecnólogos que está trabajando sobre una propuesta de aplicación de la Inteligencia Artificial (IA) y el «Blockchain» a la Administración de Justicia, comenzó reconociendo que las máquinas hacen más fácil la vida a la hora de trabajar.

«Las máquinas procesan más rápido que nosotros. Pueden contrastar una foto en décimas de segundo. Si tengo que buscar un asiento sospechoso en un sumario de 80.000 folios te lo hace en décimas de segundo con un algoritmo aleccionado. Pero las máquinas se equivocan. Y ante eso tiene que emerger un nuevo derecho de esta transformación tecnológica«, afirmó Velasco.

Sobre estas líneas, Eloy Velasco, a la izquierda, y Ángel Niño, a la derecha. En el centro, la magistrada de lo Mercantil de Tarragona, Elena del Oro, que moderó el encuentro. Foto: Carlos Berbell/Confilegal.

Enumeró algunos de esos programas que hace 50 años nos hubieran parecido magia, como el «Turnintin Thing», que detecta si ha habido plagio; «Bosco», una aplicación desarrollada por el Gobierno y que utilizan las eléctricas para saber si un usuario, en situación de vulnerabilidad, puede recibir descuentos en su factura de la luz; el algoritmo «Compas», que se utiliza en la Administración de Justicia de Estados Unidos para evaluar el riesgo y decidir si alguien debe ir a la cárcel o no; o «Clear View», que tiene 4.000 milllones de fotos inconsentidas con las que negocia para programas de reconocimiento facial.

Niño, por su parte, recordó que ahora tenemos más centros de datos automatizados que «en toda la historia de la humanidad, así como la velocidad de transmisión de datos. Ahora nos encontramos en la fase del aprendizaje profundo, el ‘deep learning’. Las máquinas hablan entre ellas y entre ellas aprenden. Este es el gran cambio y el gran problema. Porque el ser humano ya no es necesario«, explicó.

Eloy Velasco con su compañera, Elena del Oro, moderadora, Erika López, presidenta del Ateneo Judicial Español, organizador de estos eventos, y Ángel Niño. Foto: Carlos Berbell/Confilegal.

El concejal recordó que en Estados Unidos ya hay grandes despachos trabajando sobre la automatización. «Están utilizando programas que redactan demandas teniendo en cuenta la ley escrita existente y la jurisprudencia», subrayó Niño. «Pueden hacer escritos legales que se acercan a la perfección».

Y no solo en el mundo del derecho. También en la medicina. Relató, como ejemplo, que en 2018 trabajó «en un hospital sobre una prueba para predecir si los lunares se podían convertir en cáncer. Teníamos un algoritmo actuando de forma autónoma. Paralélamente teníamos un grupo de doctores. ¿Qué pasó? La máquina aprendía automáticamente. Tuvo un 98 por ciento de acierto. Ganó a los doctores en sus dictámenes».

Los dos intervinientes coincidieron en que si tiene que haber un mundo digital justo tiene que haber un derecho a nivel mundial

El magistrado Velasco, aún siendo un convencido de la utilidad de las máquinas, expresó su preocupación en torno a la forma de controlar los sesgos de los algoritmos. «Son demasiado rígidos. El reto es ‘algoritmizar’ no solo el yo sino también las circunstancias, refiriéndose a la famosa frase de José Ortega y Gasset, ‘yo soy yo y mi circunstancia'».

A Eloy Velasco le preocupaban los sesgos discriminatorios de los algoritmos y planteó su control desde su misma creación mediante la colaboración con los jueces y magistrados. Foto: Carlos Berbell/Confilegal.

Ángel Niño recordó que China, frente a Europa o Estados Unidos, eran el «Far West». Foto: Carlos Berbell/Confilegal.
Elena del Oro, como buen árbitro, dejó que el debate entre los dos discurriera de forma muy fácil. Foto: Carlos Berbell/Confilegal.

Lo que conduce a un nuevo derecho, dijo. «Un nuevo derecho al que le pediría cinco cosas: Primero, que mantenga las conquistas históricas; los derechos humanos deben ser los límites; segundo, el juez tiene que trabajar conjuntamente con el ingeniero para crear el algoritmo para preservar esos derechos; tercero, los jueces tienen que aprender sobre la teoría de riesgos y posibilidades; cuarto, tiene que haber protección de datos, el ‘Compliance’ debe ser operativo; y quinto, esto ya está ocurriendo, y es la convergencia de leyes europeas, como la Digital Service Act, que regulará a las operadoras sistémicas como Google Play o Apple Store, el reglamento MiCA, y la identidad digital».

El concejal reconoció que la toma de decisiones por parte de las máquinas puede generar problemas sociales. Pero planteó que el derecho del futuro no ponga trabas.

Los dos intervinientes coincidieron en que si tiene que haber un mundo digital justo tiene que haber un derecho a nivel mundial.

«¿Cómo se van a regular las cosas cuando la jurisdicción no es propia? ¿Cómo se persigue eso?», se preguntó Niño

«Hay que globalizar el derecho», intervino Velasco con decisión. «Llegará un momento en que haya que plantearse cómo se puede romper el carácter de territorialidad para que la investigación de delitos sea más ágil en diferentes países, también la creación de nuevos tipos penales. Porque esto puede afectar a nuestros sistemas democráticos».

«Europa está haciendo cosas interesantes», subrayó Niño. «Igual que Estados Unidos. A Asia le da igual todo. Si prevalece Occidente todo puede ir bien, pero si prevalece China, la cosa no va a estar bien».

Noticias Relacionadas:
Lo último en Mundo Judicial