La Inteligencia Artificial (IA) ha llegado a los tribunales. Ya no es un concepto abstracto, sino una herramienta que condiciona decisiones administrativas, laborales y sociales. Y los jueces empiezan a plantearse la gran cuestión jurídica de nuestro tiempo: ¿quién responde de los algoritmos?
El precedente clave del Supremo: el algoritmo BOSCO deja de ser una «caja negra». La sentencia del Tribunal Supremo 1119/2025, de 11 de septiembre, marcó un antes y un después. El Alto Tribunal reconoció el derecho de un ciudadano a acceder al código fuente del algoritmo BOSCO, utilizado por la Administración para asignar el bono social eléctrico.
El Supremo fue tajante: si un algoritmo decide quién recibe una prestación pública, su funcionamiento debe ser supervisable y revisable judicialmente. No hay zonas de sombra digitales. No existe la excusa de la «complejidad técnica».
Con esta resolución, la transparencia algorítmica se convierte en un principio exigible, no en una mera recomendación tecnológica.
El frente laboral: el algoritmo también manda… y está obligado a explicarse
La Audiencia Nacional ya ha recordado a las empresas que el artículo 64.4 del Estatuto de los Trabajadores obliga a informar sobre los algoritmos que influyen en decisiones laborales: turnos, productividad, ascensos, despidos o evaluación del rendimiento.
Para los tribunales, ocultar el funcionamiento del sistema vulnera derechos como la igualdad, la no discriminación o la tutela judicial efectiva. Las plataformas digitales —y cualquier empresa con automatización intensiva— están especialmente afectadas.
El marco normativo que lo cambia todo: RGPD, Ley 15/2022 y el Reglamento Europeo de IA
El control jurídico de la inteligencia artificial no parte de cero. El Reglamento General de Protección de Datos (RGPD), en su artículo 22, reconoce el derecho a no ser sometido a decisiones exclusivamente automatizadas que tengan efectos significativos sobre la persona.
La Ley 15/2022, de Igualdad de Trato y No Discriminación, aporta herramientas para combatir los sesgos algorítmicos, mientras que el Estatuto de los Trabajadores incorpora obligaciones específicas de transparencia algorítmica en el ámbito laboral.
El Reglamento Europeo de Inteligencia Artificial (AI Act, en inglés) —aprobado en marzo de 2024, publicado en julio y en vigor desde el 1 de agosto de 2024— se ha convertido en un referente central, ya que introduce una clasificación por niveles de riesgo que estructura toda la regulación. Es, en definitiva, la piedra angular del debate actual sobre el uso seguro de la IA.
¿Qué son los sistemas de «alto riesgo» según el Reglamento Europeo de IA
La expresión se usa mucho, pero el lector necesita identificar concretamente cuáles son.
Un sistema de IA será de alto riesgo cuando pueda afectar derechos fundamentales, seguridad o decisiones públicas relevantes.
Entre ellos están:
1. Administración pública y servicios esenciales. Incluye los sistemas que deciden el acceso a prestaciones sociales, ayudas o subvenciones; los algoritmos empleados en sanidad, educación o servicios críticos; y los mecanismos de evaluación o clasificación ciudadana (social scoring).
2. Empleo y gestión laboral. Abarca los sistemas que influyen en contrataciones, despidos, selección o promoción interna, así como las herramientas de evaluación automatizada del rendimiento.
3. Crédito, solvencia y servicios financieros. Comprende los algoritmos que determinan la solvencia financiera o el acceso a productos financieros, así como los que afectan a las condiciones de un crédito.
4. Seguridad, orden público y justicia. Incluye los sistemas de identificación biométrica (permitidos solo en casos muy restringidos), los algoritmos usados para prevenir, detectar o investigar delitos y las herramientas que pueden influir en decisiones judiciales o administrativas sensibles.
5. Infraestructuras críticas. Se refiere a la IA que gestiona redes de transporte, energía, agua o telecomunicaciones.
¿Por qué importan?
Porque estos sistemas tienen obligaciones legales reforzadas: documentación técnica completa; trazabilidad; supervisión humana; auditorías periódicas; y una responsabilidad claramente atribuible tanto al proveedor como al usuario.
Responsabilidad: hacia modelos más estrictos
Los tribunales siguen aplicando criterios clásicos de culpa y negligencia, pero la tendencia es evidente: quien utiliza un sistema opaco que afecta a derechos fundamentales asume el riesgo de su mal funcionamiento.
La idea de una responsabilidad casi objetiva empieza a consolidarse.
Recomendaciones prácticas para jueces y abogados
1. Exigir trazabilidad técnica completa. Código, datos de entrenamiento, validaciones y auditorías internas. Sin trazabilidad, el sistema no puede defenderse jurídicamente.
2. Solicitar periciales especializadas en IA. Los algoritmos deben explicarse de forma comprensible en términos jurídicos, no solo técnicos.
3. Pedir motivación reforzada. Si la decisión se apoya en IA, debe explicarse cómo y en qué medida influyó. “Lo dijo el algoritmo” no es motivación válida.
4. Vigilar sesgos y discriminación. Hay que revisar variables sensibles, correlaciones ocultas e impactos desproporcionados, que pueden vulnerar la Ley 15/2022.
5. Integrar el Reglamento Europeo de Inteligencia Artificial en los procedimientos. Este Reglamento aporta obligaciones clave para exigir acceso, transparencia y responsabilidad.
Conclusión
España ha entrado plenamente en la era de la responsabilidad algorítmica. Los tribunales están dejando claro que la IA no puede funcionar en la opacidad y que quien la utilice —ya sea la Administración o una empresa— debe explicar, justificar y asumir las consecuencias de las decisiones automatizadas.
La pregunta “¿quién responde por los algoritmos?” empieza a tener una respuesta clara: responde quien los usa y quien tenía el deber de garantizar su transparencia, seguridad y control.
