Gobernar la IA sin “kill switch”: claves para cumplir la regulación y mitigar riesgos
Carmen Galea, CEO de Valia Legal, analiza en Píldoras Legaltech los retos de la regulación europea de IA, la importancia de la supervisión humana y la correcta gestión del riesgo, incluido el controvertido «kill switch».

Gobernar la IA sin “kill switch”: claves para cumplir la regulación y mitigar riesgos

25 / 11 / 2025 05:37

Wolters Kluwer Legal Software acaba de publicar el último episodio de su serie Píldoras Legaltech, una iniciativa que busca acercar la innovación tecnológica al sector jurídico. En esta ocasión, la protagonista es Carmen Galea, fundadora y Chief Executive Officer de Valia Legal, abogada y experta en Big Data, que analiza los retos y responsabilidades que plantea la normativa europea sobre inteligencia artificial. 

Durante la entrevista, Carmen destaca la importancia de la supervisión humana en todo proceso tecnológico: «Siempre tiene que haber una mano humana detrás», una exigencia que la regulación europea considera esencial para garantizar un uso seguro de la IA. Además, explica cómo clasificar los sistemas según su nivel de riesgo y qué medidas deben adoptar las empresas antes de integrar soluciones de terceros.

Respecto al polémico concepto del “kill switch”, Carmen lo resume con claridad: «Para mí no se trata de apagar, se trata de gobernar». Más que un botón rojo, la experta apuesta por planes de contingencia, certificaciones como la ISO 42001 y una gestión proactiva del riesgo. 

¿Cómo aplicar estas recomendaciones en la práctica? La respuesta completa está en la píldora:

Esta serie de vídeos de contenido didáctico ofrecidos por Wolters Kluwer Legal Software, reconocido proveedor de soluciones de software jurídico, nace con el propósito de promover y acelerar la transformación digital en el sector legal, objetivo perseguido igualmente por los tan bien acogidos ciclo de conferencias online “Legal Innovation Days” o “Innovando la Procura”.  

El formato de estas Píldoras Legaltech se basa en entrevistas en vídeo de alrededor de diez minutos de duración, en las cuales reputadas personalidades del sector legal comparten sus experiencias profesionales en cuanto a las más recientes e innovadoras tecnologías y metodologías existentes en el sector.  

Puedes ver el vídeo en la lista de YouTube “Píldoras Legaltech” de Wolters Kluwer Legal Software, así como suscribirte al canal para estar al tanto de los futuros episodios –> canal de YouTube de Wolters Kluwer Legal Software

Noticias relacionadas:

Legal Operations desde la base: cómo ordenar procesos antes de incorporar tecnología, con Irma Cebrián en las Píldoras Legaltech de Wolters Kluwer

Mientras lees esto, la IA ya está trabajando en otros despachos

Mesa Redonda Online: Sistema de Compensación de Socios

Paula Mayans (Wolkers Kluwer Legal Software): «El departamento legal no es un apagafuegos, sino una posición estratégica»

Cómo trabajan hoy los grandes despachos para ser más eficientes

Del caos al control: cómo dominar el ciclo de vida del contrato y reducir riesgos legales

Lo último en Áreas y Sectores

Legal Operations desde la base: cómo ordenar procesos antes de incorporar tecnología, con Irma Cebrián en las Píldoras Legaltech de Wolters Kluwer

Legal Operations desde la base: cómo ordenar procesos antes de incorporar tecnología, con Irma Cebrián en las Píldoras Legaltech de Wolters Kluwer

Mientras lees esto, la IA ya está trabajando en otros despachos

Mientras lees esto, la IA ya está trabajando en otros despachos

Titularidad real y sistema IURE: la obligación que muchas sociedades siguen infravalorando

Titularidad real y sistema IURE: la obligación que muchas sociedades siguen infravalorando

Mesa Redonda Online: Sistema de Compensación de Socios

Mesa Redonda Online: Sistema de Compensación de Socios

«El departamento legal no es un apagafuegos, sino una posición estratégica» — Paula Mayans, Head of Sales Spain for Legisway en Wolters Kluwer Legal Software

Paula Mayans (Wolkers Kluwer Legal Software): «El departamento legal no es un apagafuegos, sino una posición estratégica»