Un informe científico publicado por Alex Dantart, CIO y cofundador de la legaltech Little John, advierte que el mayor riesgo de la inteligencia artificial en el ámbito jurídico no radica en las “alucinaciones” de los modelos generativos, sino en la confianza ciega y desmedida que los propios juristas depositan en estas herramientas.
El estudio, titulado “Inteligencia Artificial jurídica y el desafío de la veracidad: análisis de alucinaciones, optimización de RAG y principios para una integración responsable”, sostiene que los modelos de lenguaje no están diseñados para garantizar veracidad, sino para generar respuestas plausibles.
“Inventar información no es un error, sino una consecuencia natural de su diseño”, recuerda Dantart.
Entre sus principales hallazgos, el informe señala que la alucinación en los modelos no es un fallo técnico sino una característica estructural, ya que los LLM priorizan la fluidez por encima de la exactitud.
Además, subraya que las estrategias actuales de mitigación, como la tecnología RAG que conecta la IA con bases de datos jurídicas, siguen siendo insuficientes: aun en soluciones comerciales de alto coste, los estudios empíricos arrojan márgenes de error que oscilan entre el 17 % y el 33 %.
El autor propone orientar la adopción tecnológica hacia un modelo consultivo que priorice la fiabilidad y la transparencia sobre la creatividad, de modo que las herramientas jurídicas basadas en IA funcionen como sistemas de apoyo confiables y no como oráculos.
Frente a estas limitaciones, Dantart plantea un cambio de paradigma que distingue entre una inteligencia artificial generativa —útil para la ideación y la creatividad, pero no apta para la precisión legal— y una inteligencia artificial consultiva, concebida como un “archivero experto” que busca información verificada, cita fuentes y garantiza trazabilidad.
El documento también enfatiza que la supervisión humana resulta más indispensable que nunca. Lejos de hacer obsoleto al abogado, la IA refuerza su papel, ya que exige un ejercicio constante de escepticismo, control y responsabilidad profesional.
En este sentido, el autor propone orientar la adopción tecnológica hacia un modelo consultivo que priorice la fiabilidad y la transparencia sobre la creatividad, de modo que las herramientas jurídicas basadas en IA funcionen como sistemas de apoyo confiables y no como oráculos.
Alex Dantart, con más de 30 años de experiencia en innovación y tecnología, ha fundado más de 45 empresas y participado en más de 25 startups. Desde Little John, promueve un uso ético y riguroso de la IA, centrado en maximizar el valor del profesional jurídico y humanizar la digitalización.
