La irrupción de la Inteligencia Artificial en el entramado empresarial y en la sociedad es solo la punta del iceberg. A juicio de Marlén Estévez, son muchos los retos ante los que hay que estar preparados para reaccionar de manera rápida, eficiente y efectiva. Foto: ME.
Marlen Estévez (Roca Junyent): «Las Empresas deben establecer y difundir protocolos de uso de IA entre su gente»
|
09/5/2024 06:32
|
Actualizado: 09/5/2024 12:02
|
Si hubiera que describir a Marlen Estévez, abogada y socia del departamento de Procesal & Arbitraje de la firma Roca Junyent en la oficina de Madrid así como directora del Departamento de Arbitraje, sin duda algunas de los adjetivos a emplear serían curiosa, trabajadora, bien organizada, interesada en conectar a las personas, con pasiones en los ámbitos de la justicia, la mujer y la innovación.
En esa línea, la presidenta de Women in a Legal World, una potente e influyente asociación que tiene como objetivo potenciar y visibilizar el talento y liderazgo femenino en el sector legal, puede considerarse una pionera en este nuevo mundo en el que la Inteligencia Artificial (IA) está llamada a jugar un papel central.
Estévez va a ser ponente en la mesa que lleva por título «Gobernanza: casos prácticos para una gestión responsable de la IA en las organizaciones», en el marco del Congreso IA Derecho y Empresa, que Lefebvre ha organizado para el próximo 30 de mayo. Es un aspecto al que esta conocida abogada le ha prestado una especial atención y pensamiento.
Sobre estas reflexiones hablamos, en modo de avance a lo que va a exponer en ese foro profesional.
Marlen, desde su perspectiva legal, ¿cuáles cree que son los aspectos más críticos de la legislación actual en la Unión Europea y cómo impacta en la gobernanza de la Inteligencia Artificial en las empresas?
Uno de los aspectos más críticos radica en la aprobación y aplicación armonizada por todos los Estados Miembros de la Unión Europea del Reglamento de Inteligencia Artificial.
La Inteligencia Artificial ha irrumpido en el entramado empresarial y de la sociedad, y estamos solo ante la punta del iceberg, por lo que se van a plantear muchos retos para los que debemos estar preparados y ser capaces de reaccionar de manera rápida, eficiente y efectiva.
¿Cómo deben las empresas integrar los principios éticos en el desarrollo y despliegue de sistemas de Inteligencia Artificial?
Las empresas deben integrar los principios éticos desde el inicio del desarrollo y despliegue de sistemas de Inteligencia Artificial, de manera que se respeten e implementen como en cualquier otro ámbito de su actividad.
Esto implica que la integración de los principios éticos no puede demorarse ni dejarse para el final, sino que debe hacerse desde el primer momento en que la Inteligencia Artificial entra en la organización.
En el contexto de la litigación, ¿cuáles son los desafíos éticos y legales más comunes que enfrentan las organizaciones al implementar soluciones de Inteligencia Artificial?
En el ámbito de la litigación, se plantean muchos dilemas en lo relativo a la utilización de la Inteligencia Artificial generativa, especialmente por la creación de textos que puedan no ser ajustados a Derecho.
Además, uno de los mayores desafíos que enfrentamos es la utilización de la Inteligencia Artificial para la búsqueda de jurisprudencia y precedentes legales, donde es fundamental que cualquier resultado generado sea sometido al análisis humano debido a la posibilidad de utilizar datos poco fiables.
Los retos son tan grandes que ya hay instituciones como la Silicon Valley Arbitration & Mediation Center (SVAMC) que ha publicado Directrices sobre el Uso de la Inteligencia Artificial en el Arbitraje.
Su objetivo es ayudar a los participantes en los arbitrajes a navegar por las posibles aplicaciones de la IA.
Estas Directrices pueden utilizarse en arbitrajes nacionales o internacionales y están destinadas a servir como punto de referencia para las instituciones arbitrales, los árbitros, las partes y sus representantes (incluidos los abogados), los expertos y, cuando corresponda, otros participantes en el proceso arbitral.
«Recomiendo la formación de un equipo o comisión técnica encargada de la elaboración y revisión constante de estos protocolos, tal y como hacemos internamente desde la comisión de innovación de RocaJunyent»
¿Cuáles considera que son las mejores prácticas que las empresas deben adoptar para garantizar un uso responsable y ético de la Inteligencia Artificial?
Las empresas deben elaborar protocolos de uso de Inteligencia Artificial que sean divulgados y seguidos por todos los miembros de la organización. Lo repito, porque es muy importante, Las Empresas deben establecer y difundir protocolos de uso de IA entre su gente.
Recomiendo la formación de un equipo o comisión técnica encargada de la elaboración y revisión constante de estos protocolos, tal y como hacemos internamente desde la comisión de innovación de RocaJunyent
¿Cómo pueden las organizaciones asegurar la transparencia y la rendición de cuentas en el uso de sistemas de IA, especialmente en sectores críticos como la salud y la banca?
Para asegurar la transparencia y la rendición de cuentas en el uso de sistemas de IA, es crucial establecer normas claras y estrictas desde el principio, mediante protocolos integrales sujetos a una revisión continua.
Estamos en un proceso de aprendizaje continuo, y es fundamental establecer medidas claras desde el principio para garantizar un uso adecuado de laInteligencia Artificial.
¿Qué medidas se pueden implementar para mejorar la transparencia sobre las decisiones tomadas por sistemas de Inteligencia Artificial?
Es fundamental comprender los criterios de decisión de los sistemas de Inteligencia Artificial utilizados para garantizar la transparencia.
Además, las decisiones tomadas por la Inteligencia Artificial deben estar siempre supervisadas por una persona, especialmente en esta fase inicial de aprendizaje continuo.
¿Qué papel juega el departamento legal en la supervisión continua de los sistemas de IA y cómo se aseguran de que estos sistemas cumplan con los principios éticos y legales establecidos?
El departamento legal desempeña un papel crítico en garantizar que la empresa cumpla con los principios éticos y legales en el desarrollo de sus actividades, trabajando en estrecha colaboración con el departamento de IT para supervisar y asesorar en cuestiones técnicas relacionadas con la Inteligencia Artificial.
Finalmente, ¿qué cambios anticipa o recomendaría en la regulación futura de la Inteligencia Artificial para mejorar la gestión responsable y efectiva de estas tecnologías en las organizaciones?
Un campo en el que va a resultar necesario legislar va a ser en la utilización de la Inteligencia Artificial para la resolución de conflictos.
Por ejemplo, en Reino Unido se permite el uso de ChatGPT para redactar resoluciones judiciales, pero para ello se publicó una guía específica para el uso de la Inteligencia Artificial, en la que se índice en la necesidad de contrastar la exactitud y veracidad de cualquier información proporcionada por la IA.
De manera similar, también destaca que, en China, desde el año 2022, se experimenta con la utilización de “jueces virtuales” que sirven como asistentes a los jueces humanos para resolver litigios sobre delitos menores.
La regulación adecuada de la utilización de la Inteligencia Artificial para la toma de decisiones, tanto judiciales como dentro de una organización empresarial, resultará fundamental para garantizar la gestión responsable y efectiva de este tipo de herramientas.
Noticias Relacionadas:
