Durante unos segundos nadie en el Salón de Actos de la Asociación de la Prensa de Madrid dudó. En la pantalla, Alonso Hurtado, daba las gracias a los organizadores y se dirigía a los «queridos auditores e investigadores que tenéis algo tan delicado como la confianza de la prueba».
Anunciaba que iba a hablar de cómo la inteligencia artificial está cambiando las reglas del juego. Pero ese Hurtado no existía. Estaba sentándose en la mesa.
«Es de mentira», fueron sus primeras palabras. El avatar lo había fabricado él mismo la noche anterior con la IA. Elena Ballesteros Tejado, que presentó y condujo la sesión, lo proyectó para abrir la ponencia «IA, deepfakes y evidencia digital como nuevos retos para la labor del experto independiente».
Una ponencia que clausuró ayer por la tarde la Jornada de Actualidad sobre peritaje del Registro de Expertos Peritos en Compliance de ASCOM. El golpe de efecto funcionó. «Durante unos segundos igual nos hemos creído que ese es Alonso», reconoció la moderadora.
Diez minutos de trabajo
Hurtado, vicepresidente de ASCOM y socio de ECIJA Abogados, explicó cómo lo hizo. Partió de una grabación suya de apenas un minuto, fechada a las 00:45, en camiseta de algodón y pantalón corto, delante de su portátil. Con una herramienta comercial de suscripción mensual muy asequible, en unos diez minutos tenía listo a su doble.
Admitió los defectos. Los gestos de las manos resultaban forzados, la voz era mejorable y el cuello hacía un movimiento poco natural por un renderizado apresurado. Con más tiempo, dijo, el resultado habría sido «mucho más perfecto». Pero la lección era otra: «Eso está al alcance de cualquiera. No es ciencia avanzada».
No es tecnología reservada a los servicios de inteligencia, ni intrínsecamente mala. Su despacho la emplea con clientes para vídeos formativos corporativos protagonizados por avatares, que se traducen a otro idioma pulsando un botón.
Cuánto vale engañar
El salto a lo sofisticado, sostuvo, es una cuestión de dinero: se invierte en función de lo que haya en juego. Con inversión suficiente, el resultado audiovisual puede ser prácticamente indetectable.
Recordó el caso de la multinacional de ingeniería Arup, que perdió en Hong Kong unos 25 millones de dólares tras una videollamada en la que se suplantó a su director financiero. «Esto es lo típico que sale en prensa», comentó. «Pero fue real».
Describió un escenario verosímil: un atacante que ya está dentro de los sistemas de una gran empresa da de alta un usuario ficticio y coloca un avatar gobernado por IA generativa, capaz de conversar con naturalidad en una reunión rutinaria.
Es en los entornos de confianza donde bajamos la guardia.
Sobre su llegada a los tribunales fue prudente. Reconoció que «a fecha de hoy» no conoce un caso real de evidencia manipulada de este tipo en un peritaje, aunque no descarta que aparezca pronto.
Y no solo en vídeo: puede ser un audio, una firma, un documento o una fotografía. La imagen estática, precisó, es «muchísimo más sencilla» de falsificar.
Máquinas contra máquinas
Para detectarla, Hurtado recurrió a Alan Turing y a la ruptura del cifrado Enigma. La idea es que contra una máquina hacen falta máquinas. Traducido al presente, una IA solo se descubre con otra entrenada específicamente para detectarla, no con una genérica.
Ilustró el riesgo de los falsos positivos con una anécdota propia. Relató cómo sometió a un detector de textos escritos con IA un texto profesional que había escrito él y cómo la aplicación respondió identificándolo como generado por IA.
«El motivo era que el documento estaba muy ordenado, numerado y lleno de conectores, rasgos habituales del lenguaje jurídico», explicó.
El experto independiente, a su juicio, «necesita saber que estas herramientas existen, debe saber utilizarlas y, sobre todo, saber explicarlas a quien tiene que decidir».
Dudar por sistema
Ballesteros planteó la cuestión central. Hasta hace poco, una imagen o un correo generaban confianza; hoy «un audio o un vídeo han dejado de ser una prueba evidente». ¿Qué hace el perito ante una pequeña empresa que solo aporta un vídeo?
La respuesta fue tajante: ponerlo todo en duda. Hurtado confesó que este verano estuvo a punto de caer en un intento de fraude, en un momento de relajación. Lo desactivó verificando por un canal «presuntamente no contaminado».
El segundo paso es conocer las herramientas accesibles del mercado, hoy a precios que considera subvencionados.
Citó el caso de una entidad financiera supervisada por el Banco de España en la que un análisis masivo con IA coincidió al cien por cien con las operaciones que la entidad ya había identificado.
«Me lo ha dicho la IA» no basta
Un perito tiene que defender su informe ante un juzgado, con otro perito enfrente. Hurtado apeló a las obligaciones de explicabilidad y transparencia de la normativa europea: los sistemas permiten pedir el razonamiento paso a paso y dejan registro de lo consultado.
La fórmula, a su juicio, sería esta: «Yo sí utilicé inteligencia artificial, pero el proceso lógico que seguí para llegar a esta conclusión es este». El humano tiene que entenderlo y hacerlo suyo.
Recomendó a los presentes, una vez elaborado un informe profesional, que lo sometan a la IA y le pidan que actúe como abogado de la contraparte, que ataque su propio escrito. «Nunca os quedéis con lo primero que os dice un sistema de inteligencia artificial», advirtió.
Estos sistemas tienden, dijo, a ser «vagos y complacientes», un rasgo heredado de quienes los entrenan. Las conclusiones clave deben contrastarse siempre con la evidencia original. El profesional no será sustituido, aunque se convierte en un cuello de botella ante la velocidad de la máquina.
Redes y manipulación
Sobre qué puede subirse a estos sistemas, enumeró lo que hay que proteger: secreto empresarial, datos personales y propiedad intelectual e industrial.
Aconsejó distinguir el procesamiento local del que se hace en la nube. También advirtió de que, en Estados Unidos, las conversaciones alojadas en servidores pueden ser requeridas por las autoridades.
A un cliente que dudaba si subir ficheros de operaciones sospechosas de blanqueo le recordó que ya los enviaba por correo a través de servicios en la nube. Jurídicamente, le dijo, está en el mismo nivel. La clave es la no retención: «Si no retienen, no pueden entrenar».
Hurtado extendió la advertencia más allá del peritaje. Recomendó verificar todo lo que circula por las redes sociales, donde los vídeos y audios falsos pueden generar tendencias que desembocan en manifestaciones, desestabilización electoral e incluso conflictos armados.
Puso como ejemplos el Brexit y el escándalo de Cambridge Analytica, que, según dijo, llegó a forzar a Facebook a cambiar de nombre y pasar a llamarse Meta.
Contó también que Instagram, propiedad de Meta, etiquetó automáticamente como editada con IA una foto de vacaciones que él había retocado.
Las plataformas, subrayó, no lo hacen por voluntad propia, sino porque la normativa europea las obliga a identificar de forma proactiva el contenido manipulado o generado por IA.
Cerró con una idea que resume la tarde: «La IA es el correo electrónico de hace 25 años». Ha llegado para quedarse, y el viejo «ver para creer» ya no sirve.
