El Colegio de la Abogacía de Madrid (ICAM) ha anunciado que trabaja en una iniciativa legislativa destinada a promover la creación de un Registro Estatal de Algoritmos con incidencia en las relaciones de consumo. Un proyecto que tiene como objetivo someter a obligaciones de transparencia, control y responsabilidad a los sistemas automatizados que influyen en precios, decisiones comerciales y condiciones contractuales.
“Las decisiones que afectan a la ciudadanía ya no siempre las toman las personas, sino sistemas algorítmicos con consecuencias reales en el ámbito del consumo”, señala el decano del ICAM, Eugenio Ribón. En esta línea, explica que el Colegio, en colaboración con la Asociación Española de Derechos del Consumo, está elaborando una propuesta legislativa “para reforzar la transparencia y la responsabilidad, así como la supervisión de estos sistemas”. Una propuesta que llega en el marco del arranque del VII Congreso Nacional de Consumo, que comienza este jueves.
La iniciativa, aún en fase de redacción, nace de una preocupación creciente por el uso opaco de algoritmos en sectores como la distribución, el entretenimiento, los seguros, el crédito o el comercio electrónico. Y es que estos algoritmos determinan, de forma automática, qué precio recibe cada usuario, qué anuncios visualiza, qué condiciones se aplican o incluso si se concede acceso a determinados servicios. Ello, sin que el consumidor tenga capacidad de conocer los criterios empleados ni los datos utilizados.
Entre los riesgos detectados por el ICAM figuran la discriminación algorítmica por perfil socioeconómico o ubicación geográfica. También la modificación de precios en tiempo real según el comportamiento del usuario, el uso de datos sensibles para restringir servicios o la dificultad de identificar si una decisión perjudicial ha sido adoptada por una máquina sin supervisión humana.
El ICAM busca enriquecer el borrador del Registro
Frente a estos riesgos, el Registro propuesto por el ICAM permitiría identificar, documentar y auditar de forma independiente los algoritmos que operan en mercados de bienes y servicios de consumo. Las empresas estarían obligadas a inscribir aquellos sistemas con impacto significativo en los derechos del consumidor, aportando información básica sobre su finalidad, los datos utilizados y los criterios generales de decisión.
La propuesta incorpora, además, medidas para impedir prácticas abusivas por parte de las compañías. También contempla la posibilidad de someter estos sistemas a auditorías independientes periódicas. Controles realizados por universidades, asociaciones de consumidores o entidades técnicas especializadas.
“No es una propuesta cerrada”, ha explicado Ribón ante este proyecto.
Y es que el ICAM busca que el Congreso de los Diputados contribuya a enriquecer el texto definitivo. Ello, antes de comenzar su tramitación como proposición no de ley.
El Colegio subraya que el marco jurídico actual, pese a los avances en la regulación de la inteligencia artificial, no cubre de forma específica muchas aplicaciones algorítmicas de uso común en consumo. El Reglamento europeo de IA se centra en sistemas de alto riesgo, dejando fuera numerosos algoritmos comerciales que afectan directamente a los derechos del consumidor. Por ello, el ICAM considera necesario anticipar una respuesta normativa nacional que refuerce las garantías antes de que se agraven las brechas de protección.
La iniciativa llega en un contexto de transformación acelerada del mercado digital, donde cada vez más decisiones se toman sin intervención humana ni posibilidad de recurso efectivo. Según el Colegio, esta evolución tecnológica no puede producirse a costa de principios constitucionales como la igualdad, la información veraz y la protección de la parte débil en la contratación.
