Jordi Canals Margalef, presidente del Center for Corporate Governance de IESE Business School, durante su intervención en el Día del Compliance Officer. Foto: Confilegal.

Algoritmos bajo control: las empresas afrontan el reto de justificar las decisiones de su inteligencia artificial

18 / 11 / 2026 05:45

La inteligencia artificial avanza a toda velocidad. Tanto que muchas empresas empiezan a tener problemas para seguirle el ritmo y, sobre todo, para mantener bajo control los riesgos legales que lleva aparejados su uso.

Cada vez son más las decisiones que se dejan en manos de algoritmos, los datos personales que procesan estas herramientas y las tareas que realizan sin apenas intervención humana. Y ahí surge un problema de calado: ¿quién responde cuando un algoritmo incumple la ley?

Los expertos reunidos por la Asociación Española de Compliance (ASCOM) lo tienen claro: no basta con incorporar inteligencia artificial a la actividad empresarial. También hay que vigilar cómo funciona, establecer controles efectivos y, llegado el caso, poder demostrar que se han tomado las precauciones necesarias para evitar problemas legales.

Esta fue una de las cuestiones que centraron el debate durante la décima edición del Día del Compliance Officer, celebrada en Madrid.

Los ponentes analizaron las consecuencias jurídicas de lo que se conoce como «escalada tecnológica», un fenómeno que está poniendo a prueba la capacidad de las empresas para controlar las herramientas que utilizan.

El problema es que los sistemas de inteligencia artificial incorporan nuevas funciones a un ritmo tan rápido que resulta difícil evaluar sus riesgos y comprobar que los controles siguen siendo eficaces. Lo que hoy parece estar bajo control puede dejar de estarlo mañana, tras una actualización o la incorporación de una nueva funcionalidad.

Y esto tiene consecuencias legales. Especialmente con el Reglamento europeo de Inteligencia Artificial (Reglamento UE 2024/1689), que establece distintas obligaciones para quienes desarrollan estos sistemas y para las empresas que los utilizan, dependiendo del tipo de herramienta y del riesgo que entrañe su uso.

Luis Plaza López, Europe North Compliance Director de Microsoft; Alonso Hurtado Bueno, vicepresidente de ASCOM y socio de IT & Compliance de ECIJA; y Francisco Pérez Bes, adjunto en la Agencia Española de Protección de Datos (AEPD). Foto: Confilegal.

La supervisión humana no puede ser simplemente formal

Uno de los principales asuntos del diálogo fue la necesidad de establecer «guardarraíles», es decir, límites técnicos y organizativos que impidan que los sistemas de IA ejecuten determinadas operaciones, aunque tecnológicamente sean capaces de realizarlas.

Los participantes defendieron que las empresas deben trasladar sus prohibiciones legales, políticas corporativas y criterios éticos al funcionamiento de las herramientas.

No basta con aceptar los controles establecidos por los fabricantes. Cada organización debe evaluar los riesgos asociados a sus actividades y establecer restricciones adaptadas a sus obligaciones normativas.

El Reglamento europeo de IA obliga a que los sistemas de alto riesgo estén supervisados por personas. Además, exige que quienes se encarguen de ese control tengan la formación, la capacidad y la autoridad necesarias para intervenir cuando sea preciso. Así lo establecen sus artículos 14 y 26.

La aplicación de estas disposiciones específicas de alto riesgo está sometida al calendario transitorio europeo: diciembre de 2027 para los sistemas independientes contemplados en el anexo III y agosto de 2028 para los integrados en determinados productos regulados.

Sin embargo, la protección de los datos personales y las garantías frente a determinadas decisiones automatizadas ya son exigibles en virtud del Reglamento General de Protección de Datos (RGPD).

Su artículo 22 reconoce, con determinadas excepciones, el derecho a no ser objeto de decisiones basadas únicamente en tratamientos automatizados que produzcan efectos jurídicos o afecten significativamente de manera similar a una persona.

En los supuestos legalmente previstos, deben garantizarse salvaguardias como la intervención humana, la posibilidad de expresar el propio punto de vista y la impugnación de la decisión.

La AEPD ha recordado en sus orientaciones que esa intervención debe ser real y significativa, no una mera formalidad destinada a aparentar supervisión.

La importancia de acreditar la diligencia empresarial

El debate también abordó las consecuencias de un incidente provocado por inteligencia artificial y la necesidad de demostrar qué medidas había adoptado previamente la organización.

Los expertos destacaron la importancia de documentar los controles, realizar auditorías, formar a los empleados y conservar evidencias que permitan reconstruir las decisiones adoptadas.

Estas actuaciones adquieren relevancia ante posibles investigaciones administrativas o procedimientos judiciales, aunque su existencia no garantiza por sí sola la ausencia de responsabilidad.

El problema se agrava porque muchas herramientas modifican sus capacidades continuamente. Una evaluación realizada meses atrás puede resultar insuficiente si el sistema incorpora nuevas funcionalidades o cambia sustancialmente su funcionamiento.

De ahí la necesidad de mantener una vigilancia proporcionada a los riesgos, especialmente cuando se manejan datos sensibles o se automatizan decisiones que afectan a las personas.

Google Cloud: una IA ética y sometida al criterio humano

La dimensión ética y jurídica de esta transformación también estuvo presente en la intervención de Conchita Díaz Cantarero, experta en inteligencia artificial de Google Cloud.

«Tenemos que hacer algoritmos de inteligencia artificial que sean justos, que no tengan sesgos y que traten a todo el mundo por igual», afirmó.

Conchita Díaz Cantarero, jefa de formación de IA en Google. Foto: Confilegal.

Díaz Cantarero expuso ejemplos de aplicaciones sanitarias y de prevención de catástrofes naturales, pero insistió en la importancia de preservar la privacidad y evitar discriminaciones.

«No hay que frenar la innovación», defendió, aunque reclamó que las nuevas herramientas se desarrollen garantizando un tratamiento ético y seguro de los datos.

Comparó, de hecho, el papel de los profesionales del compliance con los frenos y la dirección asistida de un Fórmula 1: permiten avanzar a gran velocidad sin perder el control.

Noticias relacionadas:

ASCOM reivindica un «Compliance Officer» independiente y con influencia real ante los nuevos riesgos de la IA

Baker McKenzie empieza a jubilar la hora facturable: “No es la métrica adecuada”

Opinión | La autoridad no se delega: el reto normativo de la IA autónoma

La ciberrevolución dispara los riesgos legales: las empresas se exponen a multas de hasta 20 millones de euros

Opinión | La AEPD se aparta del criterio del Supremo y abre la puerta a conocer quién consulta las historias clínicas

Jorge Carrera: «La IA pone a los abogados en otra liga y deja a los jueces en el banquillo»

Lo último en Profesionales

José F. Zamarriego, presidente de ASCOM.

ASCOM reivindica un «Compliance Officer» independiente y con influencia real ante los nuevos riesgos de la IA

Grant Thornton(1)

“Europa se ha excedido en ese paso atrás”: Grant Thornton advierte de que clientes y bancos seguirán exigiendo datos de sostenibilidad

Gonzalo Boye

Gonzalo Boye, absuelto por la Audiencia Nacional, plantea al Colegio de la Abogacía de Madrid cuatro propuestas para mejorar el amparo a los abogados

Marest Law

Marlen Estévez reúne a nueve directivos de la empresa, las finanzas y la tecnología en el consejo asesor de MAREST LAW

turno de oficio madrid balanza justicia dinero

Subida salarial del Turno de Oficio en territorio Ministerio: así quedan las compensaciones por la justicia gratuita