Las empresas utilizan cada vez más inteligencia artificial, pero no todas tienen claro quién debe supervisarla ni responder cuando falla. Una situación que puede generar problemas jurídicos y organizativos, especialmente cuando estas tecnologías provocan errores o afectan a clientes y usuarios.
Para ayudar a las compañías a identificar estas deficiencias, CECA MAGÁN Abogados ha elaborado un cuestionario de autoevaluación que permite analizar su nivel de preparación para gobernar la IA y detectar posibles carencias en sus mecanismos de supervisión y control.
La iniciativa ha sido desarrollada por el área Digital del despacho, coincidiendo con la celebración de un encuentro empresarial dedicado a la aplicación de la IA en las organizaciones.
María Pardo de Vera, encargada de elaborar el cuestionario, explica que el objetivo es ayudar a las empresas a conocer su situación real antes de que aparezcan problemas relacionados con el uso de estas tecnologías. «Hay muchas empresas que oyen hablar de gobernanza, pero no saben muy bien a qué nos referimos», señala.
La especialista explica que existen diferencias importantes entre organizaciones. Mientras que las grandes compañías, con mayores recursos, suelen contar con estructuras de control más desarrolladas, muchas pequeñas y medianas empresas ya utilizan herramientas de IA sin haber establecido mecanismos suficientemente sólidos para supervisarlas.
La empresa responde ante el cliente
Uno de los aspectos que más preocupa a las organizaciones es la atribución de responsabilidades cuando una herramienta de inteligencia artificial comete un error que afecta a terceros.
Pardo de Vera utiliza un ejemplo del sector sanitario para explicar el problema. Si un médico de un hospital se equivoca en un diagnóstico, el paciente dirigirá inicialmente su reclamación contra el centro sanitario. «Las empresas somos responsables ante nuestros usuarios, nuestros pacientes, nuestros clientes», afirma.
La abogada distingue entre esa responsabilidad frente a terceros y la posibilidad de que posteriormente la compañía reclame contra el proveedor tecnológico si el daño se ha producido por un defecto de la herramienta.
Para ello, considera fundamental establecer una cadena de responsabilidades que permita identificar quién autorizó cada aplicación de IA, cómo se evaluaron sus riesgos y qué obligaciones correspondían a cada participante.
No todas las herramientas tienen las mismas implicaciones jurídicas. Algunas pueden utilizarse en actividades de riesgo reducido, mientras que otras pueden entrar en categorías de alto riesgo o encontrarse directamente prohibidas por la normativa europea.
La atribución concreta de responsabilidad dependerá, en cualquier caso, de las circunstancias de cada supuesto y de las normas aplicables.
Tener una política de IA no es suficiente
Según Pardo de Vera, muchas empresas han comenzado a aprobar políticas internas sobre utilización responsable de inteligencia artificial, pero todavía existen carencias importantes en su aplicación práctica.
«Tienen políticas, por ejemplo, de uso responsable, pero no tienen una matriz de responsabilidades», advierte.
En numerosos casos, las sesiones formativas se limitan a explicar los riesgos generales de la IA, sin abordar los procedimientos específicos que deben seguir los empleados. «Necesitamos aterrizarlo mucho más para los empleados», sostiene.
El despacho identifica tres ámbitos fundamentales para una implantación responsable de la inteligencia artificial: la gobernanza interna, el cumplimiento normativo y el control de la cadena de suministro.
Este último resulta especialmente relevante porque la mayoría de las empresas no desarrolla sus propias herramientas, sino que contrata soluciones tecnológicas ofrecidas por terceros.
La experiencia del despacho indica que las organizaciones que no han trabajado adecuadamente la gobernanza encuentran después mayores dificultades para adaptarse a la regulación y controlar a sus proveedores.
La importancia de saber quién puede detener una IA
El autodiagnóstico de CECA MAGÁN plantea cuestiones concretas sobre la organización interna de las empresas. Entre ellas, si existe una política de uso responsable, si se ha comunicado a los trabajadores, si están definidas las responsabilidades y quién debe autorizar nuevos usos de inteligencia artificial.
También examina si los empleados han recibido formación específica y si existen procedimientos para actuar cuando una herramienta comienza a funcionar incorrectamente.
Una de las cuestiones más relevantes es identificar quién tiene capacidad para ordenar su desconexión.
«Tenemos que saber quién es el responsable de decidir que eso se corta y cuál es el plan de contingencia que tenemos para seguir funcionando», explica Pardo de Vera.
La abogada considera que establecer estos mecanismos de control constituye un paso necesario para facilitar el cumplimiento de las obligaciones legales, especialmente las derivadas del Reglamento Europeo de Inteligencia Artificial.
