La inteligencia artificial no puede convertirse en una «caja negra» dentro de la Administración de Justicia. Si un sistema automatizado interviene en el análisis de un expediente o ayuda a interpretar información jurídica, los profesionales deben poder comprender cómo funciona, identificar sus posibles errores y supervisar sus resultados.
Esta es una de las principales conclusiones del informe Tech Hot Topics: Edición 2026, elaborado por la multinacional tecnológica Softtek, que analiza las condiciones necesarias para implantar una inteligencia artificial más transparente, comprensible y fiable en la Justicia y el sector público.
La compañía presenta sus conclusiones coincidiendo con la celebración del DATAfórum Justicia 2026, que tendrá lugar del 21 al 23 de octubre en A Coruña, un encuentro dedicado a la transformación digital de la Administración de Justicia.
El desafío jurídico de las decisiones algorítmicas
Uno de los principales problemas que plantea la utilización de IA en entornos judiciales es la dificultad para conocer cómo determinados sistemas llegan a sus conclusiones.
Los modelos más complejos pueden analizar grandes cantidades de información y producir resultados sin que resulte sencillo explicar los factores que han intervenido en ellos.
Esta falta de transparencia puede tener consecuencias especialmente relevantes cuando la tecnología se utiliza en procedimientos que afectan a derechos fundamentales.
El Reglamento (UE) 2024/1689 considera de alto riesgo, con las condiciones y excepciones previstas en la norma, los sistemas destinados a ayudar a las autoridades judiciales a investigar e interpretar hechos y normas jurídicas o a aplicar el Derecho a casos concretos.
No obstante, esta clasificación no se extiende automáticamente a todas las herramientas utilizadas en los tribunales. Determinadas funciones administrativas auxiliares, como la anonimización de documentos, pueden quedar fuera de esa categoría.
Además, aunque el reglamento ya resulta aplicable en buena parte de sus disposiciones, las principales obligaciones específicas para estos sistemas de alto riesgo comenzarán a aplicarse el 2 de diciembre de 2027, tras la modificación del calendario europeo aprobada en julio de 2026.
Saber cómo funciona la IA y poder controlar sus resultados
Softtek distingue dos conceptos que considera esenciales para superar la opacidad algorítmica.
El primero es la inteligencia artificial explicable (XAI), que reúne técnicas destinadas a facilitar la comprensión y auditoría del funcionamiento de los modelos.
El segundo es Trust-Centric Experience, un enfoque que busca trasladar esa información técnica a interfaces comprensibles para quienes utilizan los sistemas.
La diferencia es importante: no basta con que una herramienta pueda ser examinada por especialistas informáticos. También debe ofrecer información útil a los operadores jurídicos encargados de interpretar sus resultados.
Por ejemplo, ante una recomendación generada por inteligencia artificial, el profesional debería disponer de elementos para conocer sus limitaciones, comprobar la información utilizada y decidir si acepta o descarta el resultado.
El objetivo es evitar que la aparente precisión de una respuesta automatizada lleve a confiar en ella sin efectuar las comprobaciones necesarias.
Este planteamiento conecta con el artículo 14 del AI Act, que contempla mecanismos de supervisión humana para los sistemas de alto riesgo, incluida la posibilidad de intervenir, ignorar o revertir sus resultados cuando corresponda.
Cumplimiento normativo desde el diseño
Otro de los aspectos destacados por Softtek es el denominado compliance-by-design, que consiste en incorporar las exigencias de cumplimiento normativo desde las primeras fases de desarrollo tecnológico.
En lugar de introducir controles una vez implantada la herramienta, la compañía propone integrar mecanismos de transparencia, trazabilidad y auditoría durante su diseño.
Entre las medidas señaladas figuran el seguimiento del origen de los datos utilizados, el registro de las operaciones realizadas y la identificación de posibles riesgos durante el funcionamiento del sistema.
La trazabilidad es especialmente importante para reconstruir cómo se ha generado un resultado y detectar posibles fallos o sesgos.
El AI Act contempla, para los sistemas de alto riesgo, obligaciones de documentación, registro automático de acontecimientos, transparencia y supervisión humana, cuyo alcance depende de las funciones y clasificación de cada herramienta.
Softtek propone, además, sustituir los modelos de control exclusivamente estáticos por mecanismos de gobernanza dinámica, capaces de incorporar revisiones y detectar incidencias durante la utilización de la tecnología.
La confianza, condición para extender la IA en la Justicia
Doris Seedorf, CEO de Softtek para España, considera que la transparencia será determinante para consolidar la utilización de estas herramientas en las administraciones públicas. «El usuario actual demanda inmediatez pero rechaza de plano cualquier resultado que no sea capaz de comprender», explica.
La directiva sostiene que la XIA proporciona las herramientas técnicas necesarias para auditar los algoritmos, mientras que las interfaces centradas en la confianza permiten trasladar esa complejidad a los usuarios.
A su juicio, mantener sistemas opacos incrementa los riesgos operativos y regulatorios y puede comprometer la rentabilidad de las inversiones tecnológicas.
La compañía defiende que incorporar estos mecanismos desde el diseño facilita extender las soluciones de inteligencia artificial a diferentes servicios públicos de manera más segura y consistente.
