Bernat-N. Tiffon lleva casi un cuarto de siglo mirando a los ojos a asesinos, psicópatas y personas que han cruzado líneas que la mayoría no puede ni imaginar. Psicólogo forense. Veinticinco años de carrera. Más de veinte libros. Su nombre aparece en los sumarios de los crímenes que han conmocionado a España en las últimas décadas.
Y ahora publica el más incómodo de todos sus trabajos.
Psicología Criminal y Forense, Inteligencia Artificial (IA) y Cajas Negras (J.M. Bosch Editor) no es un manual técnico al uso. Es una disección. Y su objeto de análisis no es la mente de un asesino, sino algo que preocupa a Tiffon tanto o más: la creciente tentación de entregar a un algoritmo decisiones que deberían seguir en manos humanas.
La «Caja Negra» del título alude a uno de los problemas más serios de la IA aplicada a la justicia: nadie sabe exactamente cómo razona. Un sistema puede recomendar que un preso no salga a la calle, o señalar a alguien como potencialmente peligroso, sin que el afectado, su abogado ni el juez puedan comprender —ni rebatir— el proceso que llevó a esa conclusión. Opaco. Inapelable. Y falible.
Frente a eso, Tiffon defiende lo que ningún código puede replicar: la intuición construida a lo largo de años frente a los casos más duros. La experiencia que permite, como él mismo escribe, no solo contar manchas de sangre, sino oler el miedo.
El libro surge de su discurso de ingreso en la Real Academia Europea de Doctores (RAED) y llega en el peor momento posible para quienes creen que la tecnología puede sustituir al experto humano en la sala de un tribunal. O en el mejor, según se mire.
Después de un cuarto de siglo analizando los crímenes más atroces de este país, ¿qué le llevó a centrar su discurso de reciente ingreso en la Real Academia en la Inteligencia Artificial?
No ha sido una elección por moda, sino por necesidad. Tras años en el «barro» de las salas de justicia, he visto cómo la tecnología ha pasado de ser una herramienta de apoyo a ser, casi, una promesa de sustitución.
Me inquietaba que la fascinación por el silicio nos hiciera olvidar la complejidad de la mente biológica. El libro nace de esa urgencia: poner límites éticos y científicos antes de que la justicia se convierta en un proceso automatizado y deshumanizado.
Usted utiliza un término aeronáutico inquietante: «Cajas Negras». ¿Qué relación tiene un algoritmo con la caja negra de un avión?
En psicología forense, la «Caja Negra» es la opacidad. Muchos de los algoritmos que ya se están probando para predecir si un preso volverá a delinquir son opacos incluso para los propios jueces.
Introducimos datos y el programa nos da un porcentaje de peligrosidad, pero no sabemos cómo ha llegado a esa conclusión. Si no podemos comprender el razonamiento de la máquina, ¿cómo vamos a garantizar el derecho a la defensa? Una justicia que no es explicable deja de ser justicia.
«Si no podemos comprender el razonamiento de la máquina, ¿cómo vamos a garantizar el derecho a la defensa? Una justicia que no es explicable deja de ser justicia».
En el libro se pregunta si la IA es un aliado o un rival. Después de escribirlo, ¿en qué lado de la balanza se sitúa usted?
Es un aliado imprescindible para la logística: geolocalizar un cadáver, analizar grandes volúmenes de datos telefónicos o reconstruir escenas en 3D es maravilloso.
Pero es un rival peligroso si pretendemos que evalúe la motivación psicopática. La IA es determinista; la mente criminal es errática, caótica y, a menudo, fruto de una «tormenta perfecta» que una máquina no puede prever. La IA debe ser la herramienta, nunca el artesano.
Usted ha tenido frente a frente a Rosa Peral o al Pistolero de Olot. ¿Cree que un algoritmo habría detectado la frialdad de Rosa Peral o el estado volitivo del pistolero de Olot mejor que usted?
Rotundamente, no. La máquina puede procesar el historial clínico o los antecedentes, pero carece de la intuición y la contratransferencia.
Un perito humano siente la tensión en la sala, detecta el silencio incómodo o la mirada que intenta manipular. La IA puede contar manchas de sangre o analizar la sintaxis de una declaración, pero es incapaz de «oler» el miedo o sentir la maldad pura.
El «ojo clínico» es una síntesis de experiencia y empatía que no se puede programar.
Afirma en su obra que la IA carece de empatía. Pero, ¿acaso un informe pericial no debe ser frío y objetivo?
La objetividad no es frialdad. Para entender por qué un anciano de 81 años mata a una mujer con un piquete, o por qué un padre decapita a su hija porque «se lo pide el demonio», hace falta una lectura fina de la miseria humana.
La IA opera bajo lógicas binarias; el perito humano opera bajo la comprensión del sufrimiento. Sin esa dimensión humana, el informe pericial se queda en la superficie.
Menciona el riesgo de las «alucinaciones algorítmicas». ¿Cómo puede afectar a un juicio que una IA se invente datos?
Es un riesgo real y presente. Si delegamos la redacción de un historial clínico o el resumen de una pericial a una IA generativa y esta omite, por ejemplo, signos de ideación suicida o inventa un rasgo de personalidad que el sujeto no tiene, el error puede ser fatal.
Podríamos mandar a un enfermo mental a una prisión ordinaria o dejar libre a alguien con un riesgo de violencia inminente. El «silicio» no tiene conciencia del error; el perito sí.
Hay un capítulo especialmente crítico sobre los chatbots terapéuticos. ¿Son peligrosos?
Mucho, si no hay supervisión. Un chatbot puede terminar validando los delirios de un paciente psicótico o dándole «consejos» iatrogénicos que agraven su patología.
Se han dado casos de chatbots que fomentan impulsos violentos o ideas grandiosas. Es la deshumanización absoluta del cuidado de la salud mental.
«Un chatbot puede terminar validando los delirios de un paciente psicótico. Es la deshumanización absoluta del cuidado de la salud mental».
Usted visualiza un futuro en el que los jurados usarán gafas de realidad virtual para presenciar la escenificación de los crímenes. ¿Estamos cerca de eso?
Es lo que llamo mi «predicción verniana». Ya es técnicamente posible. Veremos salas de justicia donde los operadores jurídicos visualicen la hipótesis del crimen como si estuvieran allí.
Sería una experiencia inmersiva que ayudaría a juzgar con más datos, pero de nuevo: la tecnología debe servir para que el jurado decida, no para que la máquina dicte el veredicto.
El gran dilema: si un algoritmo comete un error y un preso reincide, ¿quién es el responsable legal?
Ese es el vacío legal que denuncio. ¿Es el programador? ¿Es la institución que compró el software? ¿Es el psicólogo que firmó basándose en el dato algorítmico?
Italia ya está empezando a regularlo, pero en España estamos en un limbo. Mi propuesta es clara: necesitamos una nueva figura profesional, el psicólogo forense experto en IA, que audite y supervise cada paso de la máquina.
¿Qué le diría a un joven que hoy empieza a estudiar Psicología Forense y teme que en diez años su trabajo lo haga una máquina?
Le diría que no tenga miedo, pero que se prepare. El futuro no es de los que saben usar la máquina, sino de los que saben por qué la máquina puede fallar.
Que cultive su intuición y que no deje nunca de mirar a los ojos al ser humano que tiene enfrente. Ningún código binario podrá sustituir nunca el peso de una verdad descubierta a través de la escucha y la experiencia.
