El Pleno del Consejo General del Poder Judicial ha aprobado hoy una instrucción que regula el uso de la inteligencia artificial en la Administración de Justicia.
La norma, que será publicada en el Boletín Oficial del Estado, establece que los jueces y magistrados solo podrán utilizar aplicaciones de IA previamente autorizadas y fiscalizadas por el propio órgano de gobierno judicial o facilitadas por las administraciones competentes en materia de Justicia.
El texto, elaborado por la Comisión de Modernización e Informática, busca dotar a la carrera judicial de «un marco de actuación claro, homogéneo y coherente» con la normativa nacional y europea, respetando la independencia judicial y el ejercicio de las funciones jurisdiccionales.
La medida responde a la necesidad de establecer criterios y principios para el uso de sistemas de IA generativa, cuyo empleo sin control puede vulnerar derechos y libertades fundamentales.
Control previo para garantizar la independencia judicial
La instrucción prohíbe de manera categórica el uso indiscriminado de programas comerciales o herramientas cuyo funcionamiento interno no haya sido auditado.
Esta exigencia de control previo persigue garantizar que los sistemas empleados no contengan sesgos algorítmicos, no vulneren derechos fundamentales, no pongan en riesgo la confidencialidad de datos especialmente protegidos y no condicionen la independencia judicial o la libertad de criterio de los magistrados.
El documento se inscribe en un contexto normativo que incluye el Reglamento UE 2024/1689, de 13 de junio, y la normativa interna: Real Decreto 729/2023, de 22 de agosto; Real Decreto-ley 6/2023, de 19 de diciembre; y Real Decreto 817/2023, de 8 de noviembre.
También incorpora la Política de uso de la inteligencia artificial aprobada por el Comité Técnico Estatal de la Administración Judicial electrónica, el CTEAJE.
El «principio de control humano efectivo» exige que los jueces y magistrados mantengan un control real, consciente y efectivo sobre los sistemas de IA, que no podrán operar de forma autónoma para tomar decisiones judiciales, valorar hechos o pruebas, ni interpretar y aplicar el Derecho.
Definiciones técnicas con implicaciones jurídicas
La instrucción define con precisión conceptos clave. Un «sistema de IA» es todo sistema basado en máquinas diseñado para funcionar con distintos niveles de autonomía, capaz de adaptación y de inferir resultados a partir de la información recibida.
Las «herramientas de IA generativa» son sistemas que generan contenidos de forma automatizada según instrucciones del usuario.
El «sesgo algorítmico» se define como la desviación sistemática en los resultados generados por la IA a partir de los datos, modelos o procesos utilizados, que puede producir efectos arbitrarios o discriminatorios.
Esta definición reconoce que la máquina no es neutral y puede perpetuar injusticias presentes en los datos con que ha sido entrenada.
Principios rectores: el control humano como garantía
El texto establece principios cardinales para el uso de IA en la actividad jurisdiccional. El «principio de control humano efectivo» exige que los jueces y magistrados mantengan un control real, consciente y efectivo sobre los sistemas de IA, que no podrán operar de forma autónoma para tomar decisiones judiciales, valorar hechos o pruebas, ni interpretar y aplicar el Derecho.
El principio de «no sustitución de los jueces y magistrados» prohíbe que la inteligencia artificial supla a los miembros de la Carrera Judicial en el ejercicio de la actividad jurisdiccional.
Se complementa con los principios de responsabilidad judicial, independencia judicial, respeto de los derechos fundamentales, confidencialidad y seguridad, y prevención de sesgos algorítmicos.
Usos permitidos y límites estrictos
La instrucción autoriza el uso de IA para búsqueda y localización de información jurídica, recuperación de antecedentes procesales, análisis y clasificación de información, y elaboración de esquemas, resúmenes o borradores de trabajo interno, siempre que no tengan carácter decisorio ni sustituyan la redacción personal del juez.
Los borradores de resoluciones judiciales generados por sistemas de IA solo podrán utilizarse como instrumentos de apoyo o asistencia, nunca como productos terminados.
Su uso exigirá siempre una revisión y validación personal completa y crítica por parte del juez o magistrado, quien mantendrá su exclusiva responsabilidad sobre la resolución.
Prohibiciones categóricas
Las herramientas de IA autorizadas no podrán usarse cuando impliquen sustitución, automatización o delegación de la toma de decisiones judiciales, valoración de hechos o pruebas, o interpretación y aplicación del Derecho.
Se prohíbe expresamente incorporar a las resoluciones judiciales contenidos generados por IA sin previa valoración crítica, completa y personal del juez.
Los sistemas de IA tampoco podrán utilizarse para el tratamiento de datos personales especialmente protegidos o información sujeta a deberes reforzados de confidencialidad.
Se prohíbe su uso con fines de perfilado de personas, predicción de comportamientos, evaluación de riesgos o clasificación de sujetos.
La instrucción del CGPJ establece un marco restrictivo que prioriza el control humano sobre la eficiencia tecnológica. El requisito de autorización previa busca evitar que algoritmos opacos y sin auditar penetren en el núcleo de la función jurisdiccional.
Queda por ver si este marco normativo será suficiente para equilibrar la incorporación de herramientas tecnológicas con la preservación de garantías procesales fundamentales y la responsabilidad personal de quienes administran justicia.
