El Tribunal Constitucional estudia cómo incorporar la inteligencia artificial a su trabajo y qué garantías debe exigirle. Juan Carlos Campo Moreno, magistrado del órgano, es el responsable de impulsar su transformación digital.
En esta entrevista explica que el objetivo del uso de la IA es facilitar tareas como la búsqueda de jurisprudencia o la elaboración de resúmenes, pero sin delegar en una máquina la deliberación de los magistrados.
El TC rechazó por unanimidad una petición para utilizar IA en la selección inicial de las demandas de amparo. La decisión, dice Campo, responde a la esencia deliberativa del Constitucional: un matiz puede cambiar la valoración de un caso.
El magistrado aborda también los riesgos de los datos sensibles, la opacidad de los algoritmos y los errores en escritos que citan resoluciones inexistentes o que no respaldan lo alegado.
Y espera que el TC pueda contar pronto con una IA propia o con sistemas que ofrezcan garantías suficientes.
¿Qué situación encontró cuando le encargaron impulsar la transformación digital del Tribunal Constitucional?
El tribunal había realizado algunas actuaciones puntuales, pero no existía una programación específica.
En el pleno gubernativo hablamos de estas cuestiones y vimos la oportunidad de abordar asuntos básicos, como el expediente electrónico y, sobre todo, la firma electrónica. Eso se hizo realidad hace algo más de dos años.
No podíamos quedarnos ahí. Con el encargo del presidente y del pleno hemos seguido avanzando.
¿Hasta entonces se firmaba a mano?
En los primeros meses, cuando llegué, firmábamos a mano. Después, la firma electrónica se fue imponiendo y el tribunal se incorporó a esa modernización, que también exige prestar mucha atención a la seguridad.
«Tenemos claro que no podemos permitirnos una inteligencia artificial que no garantice la defensa de los derechos fundamentales».
¿Qué puede aportar ahora la inteligencia artificial al trabajo del Constitucional?
Tenemos que ver qué significa y qué puede aportar a la actividad del tribunal. Puede ayudar, por ejemplo, a recopilar información. El Tribunal Constitucional está sometido a la Constitución y a sus leyes orgánicas, pero tiene muy presente su jurisprudencia.
Por eso sus sentencias suelen ser tan largas: puede haber un overruling, pero lo normal es citar las resoluciones anteriores para mostrar la continuidad de la evolución jurisprudencial.
Ese trabajo se puede aligerar y facilitar con inteligencia artificial. Pero hay que ser muy cuidadosos. Hemos analizado la oferta que hay en el mercado y estamos estudiando cuáles son las verdaderas necesidades del tribunal.
Tenemos claro que no podemos permitirnos una inteligencia artificial que no garantice la defensa de los derechos fundamentales.
¿Cuál es el límite que no debe cruzar?
La inteligencia artificial no puede sustituir al magistrado. La capacidad deliberativa, la ponderación y la interpretación corresponden al colegio de magistrados, con sus opiniones y sus distintas valoraciones.
No puede ser una inteligencia artificial de caja negra. Debemos tener en cuenta la opacidad de los algoritmos, los sesgos estructurales y los cambios que puede provocar en la atribución de responsabilidades.
En una petición de amparo tiene que existir una conexión entre el ordenamiento jurídico y la Constitución. La capacidad deliberativa es insustituible.
¿Qué garantías exige el tribunal para proteger su información?
Es uno de los muchos retos. Buscamos una inteligencia artificial absolutamente encapsulada, de modo que no pueda salir nada. No es fácil. Todas las empresas presentan sus sistemas como muy seguros, pero sabemos que la seguridad absoluta no existe. Hay que buscar la máxima posible porque trabajamos con información muy delicada.
Me preocupa saber dónde se cargan los documentos, adónde van los datos y qué protección tiene la nube. Si una empresa necesita seguridad, el tribunal necesita todavía más.
La inteligencia artificial puede ayudar a preparar una demanda de amparo. Los abogados la utilizan.
El rigor que exige el tribunal debe estar presente también en las demandas. Hemos visto una en la que el equipo de letrados que la analizó comprobó que las referencias a fechas o sentencias no se correspondían con el contenido de esas resoluciones.
¿Cuáles son las razones que se esgrimieron para rechazar el uso de una IA en el análisis de las demandas de amparo?
Se nos pidió que utilizáramos inteligencia artificial para hacer el triaje de todas las demandas de amparo. Para admitirlas, el tribunal exige una especial trascendencia constitucional, además de una apariencia de lesión.
Rechazamos la petición por unanimidad porque el tribunal no puede renunciar a su carácter deliberativo: perdería su esencia.
Muchas resoluciones responderán a parámetros de casos anteriores, pero puede aparecer un matiz nuevo. Esa ponderación y esa valoración solo las puede hacer el tribunal mediante la deliberación.
¿La rapidez que ofrece la inteligencia artificial debe ser una prioridad?
No me interesa ese paradigma. Hay que buscar la eficiencia y la eficacia, pero sin perjudicar la esencia del tribunal. Una respuesta más rápida no sirve si se pierde el carácter deliberativo.
En el ámbito judicial se pondrían en cuestión el juez predeterminado por la ley, el debido proceso y otras garantías determinantes. Se ha luchado durante muchos años por la motivación de las resoluciones y, antes, por la inmediación.
Si se entrega todo ese trabajo a una máquina, quizá acierte muchas veces y lleguemos a la misma conclusión, pero prefiero que lo valoremos nosotros. Creo que es una exigencia constitucional.
El Ministerio de Justicia ha puesto herramientas de inteligencia artificial a disposición del Tribunal Supremo…
El Tribunal Supremo ya está trabajando con algunas que hacen resúmenes. Es una primera parte. Lo que el Constitucional no va a permitir es que una inteligencia artificial sustituya el carácter deliberativo de una resolución.
«El TC tendrá su propia inteligencia artificial o se servirá de sistemas que garanticen la seguridad en el trabajo de un tribunal tan importante. Para mí, lo fundamental es tener la tranquilidad de que los datos no puedan aparecer en cualquier sitio».
¿Su experiencia anterior en la modernización de la Justicia influyó en que le hicieran este encargo?
Quien haya seguido mi trayectoria sabrá que, en 1997, cuando Andalucía asumió las competencias en materia de Justicia, se puso en marcha el Plan Adriano, un plan global de informatización del sistema judicial andaluz.
Es un asunto que siempre me ha interesado: la modernidad debe acompañar al proceso judicial, pero no puede sustituirlo.
Me ocurrió lo mismo cuando fui secretario de Estado y cuando fui vocal del Consejo General del Poder Judicial.
También cuando tuve la responsabilidad al frente del Ministerio.
¿Cuándo espera que el tribunal pueda disponer de un sistema propio?
Los trabajos están muy avanzados. Tenemos mucha información y ahora toca empezar a tomar decisiones. La comisión que hemos creado, en la que participan letrados, debe ayudar a determinar dónde puede facilitarse su trabajo.
El cuerpo de letrados es muy productivo y tiene un nivel intelectual altísimo. Buena parte del mérito de la consolidación del tribunal es suyo; después, su trabajo contribuye a la deliberación en las secciones, las salas y el pleno.
¿Los magistrados también podrán utilizarlo en su trabajo diario?
Claro. Será un recurso al servicio de todos. Uno podrá buscar jurisprudencia; otro, una sentencia del Tribunal Europeo de Derechos Humanos; otro, un artículo doctrinal o un resumen. Las aplicaciones ya están avanzadas, se utilicen o no.
Tenemos que ser exquisitamente prudentes y cautelosos porque estamos trabajando con información muy sensible.
¿Podría tener el Constitucional su propia inteligencia artificial en primavera?
Espero que sí. El TC tendrá su propia inteligencia artificial o se servirá de sistemas que garanticen la seguridad en el trabajo de un tribunal tan importante. Para mí, lo fundamental es tener la tranquilidad de que los datos no puedan aparecer en cualquier sitio.
