«La inteligencia artificial está llevando a los abogados a otra liga. Los despachos meten en su trabajo diario herramientas cada vez más potentes. Los jueces, mientras tanto, se quedan en el banquillo, con restricciones y con sistemas de menor capacidad».
Esa brecha fue la principal advertencia que Jorge Carrera realizó en las III Jornadas Jurídicas de Okdiario que se están celebrando en Marbella. Carrera es abogado y exmagistrado. Fue juez de enlace de España en Estados Unidos, letrado del Gabinete Técnico del Tribunal Supremo y participó en la normativa de protección de datos en la Comisión Europea.
Hoy día, desde «Derecho con Carrera», su es uno de los «youtubers» más respetados y seguidos sobre la inteligencia artificial aplicada al Derecho. Cuenta con 82.200 seguidores.
Carrera participó en la mesa redonda «De la IA a la exposición en medios», moderada por Ferrán González, jefe de Tribunales de OKDIARIO, junto a los abogados Marina Fernández y Alfredo Arrién.
«Se está produciendo un desequilibrio entre las capacidades que tienen y van adquiriendo los abogados con el uso de la inteligencia artificial y lo que tiene el Poder Judicial, que más bien ahora son prohibiciones, limitaciones y herramientas que no tienen ni la potencia ni la capacidad de lo que pueda llegar a hacer un abogado con IA», advirtió.
El riesgo de colapso
Carrera puso cifras a esa brecha, aunque reconoció que son aproximadas. No hay datos sobre el volumen de tokens, la unidad con la que se mide el trabajo de estos sistemas, que generan los despachos españoles. Pero, según los indicadores que maneja, en torno al 70% de los abogados ya usa la IA «con una cierta intensidad».
El problema aparece al otro lado del estrado. Los abogados redactan más escritos y más rápido, y responden antes a cada movimiento procesal. Los juzgados siguen trabajando al ritmo de siempre.
«La capacidad que está teniendo el Poder Judicial para resolver la avalancha de documentos que se están generando por muchos abogados mediante IA, eso lleva al colapso si no pensamos esto y no le damos pronto alguna solución», alertó.
El exmagistrado contó que ha hablado del asunto con antiguos compañeros y que están preocupados. Le dicen que cada vez reciben más escritos, más complejos, y que se sienten en «una inferioridad increíble». Carrera lo comparó con la lucha contra el narcotráfico: «Los malos van con Maserati y nosotros vamos con vehículos que andan como pueden».
Formación frente a prohibiciones
Para Carrera, la respuesta de las instituciones va en la dirección equivocada. Criticó la política del Consejo General del Poder Judicial sobre el uso de la IA y la resumió así: «Vamos a prohibir a los jueces que usen la IA o vamos a decirles que solo tienen que usar la IA que nosotros les digamos, que normalmente suele ser bastante mala. Eso no va a funcionar».
«Este tipo de prohibiciones de no usar IA generalistas es ponerle puertas al campo y al final no lleva a ningún lado», insistió.
El riesgo, explicó, es que el veto lleve a algunos jueces a usar estas tecnologías por su cuenta, sin preparación ni precauciones. Recordó que ya han aparecido resoluciones judiciales que citan jurisprudencia inventada. Lo calificó de «deplorable» para el ciudadano que acude a los tribunales a defender sus derechos, aunque defendió que se trata de «una absoluta minoría» y que esos casos deben tener consecuencias disciplinarias.
Su alternativa es formar a los jueces en lugar de prohibir: «Más que en prohibiciones, vale más invertir en formación, en concienciación, en enseñar a hacer un uso adecuado de estas herramientas tan potentes».
Echó en falta un plan. «No lo acabo de ver», dijo sobre la existencia de una hoja de ruta clara, ni en el Ministerio de Justicia ni en el CGPJ.
A su juicio, hace falta sentarse a pensar el proyecto, contar con profesionales externos que ya trabajan en esto y empezar a aplicarlo. Fue más allá: defendió que muchas competencias deberían salir del Ministerio, como en América Latina, donde los tribunales gestionan su propio presupuesto.
Empezar por verificar
Antes de pensar en que la IA redacte sentencias, Carrera propuso un primer paso más sencillo: que revise las resoluciones antes de que salgan del juzgado. Así se ahorrarían aclaraciones, correcciones de errores y recursos que alargan los pleitos durante años.
Habló también de su propia experiencia: «Somos humanos. A mí me había pasado como juez, yo también he cometido errores».
Puso el ejemplo de una sentencia que no se pronuncia sobre uno de los puntos planteados. Ese olvido puede acabar en una apelación, con meses de espera para el ciudadano y un gasto de medios para la Justicia que, multiplicado por todos los juzgados, es enorme.
¿Sentencias dictadas por máquinas?
En la mesa se planteó el caso del Juzgado de Primera Instancia 101 bis de Madrid, especializado en litigios bancarios (cláusulas suelo, hipotecas multidivisa) y con retrasos de cuatro o cinco años para señalar. Se le preguntó si confiaría en una sentencia dictada por la IA en una materia tan repetitiva.
«Yo me voy a mojar porque no tengo ningún inconveniente en hacerlo», respondió. Recordó que plataformas como Amazon o eBay ya resuelven por vía electrónica las reclamaciones de sus usuarios.
Para el ciudadano de a pie, explicó, la alternativa muchas veces es pagar a un abogado más de lo que vale el conflicto y esperar años, o directamente renunciar. Entre eso y una vía tecnológica con posibilidad de recurrir ante un humano, cree que la mayoría elegiría la segunda.
Por eso no lo descarta en ámbitos con poca carga de razonamiento y más mecánicos. Eso sí, siempre con garantías suficientes para proteger los derechos de los ciudadanos. «La cuestión no es si o no, sino en qué casos, cómo, de qué manera y con qué salvaguardas».
Las «leyendas urbanas» de la protección de datos
Carrera dedicó parte de su intervención a desmontar algunos miedos frecuentes entre los juristas. «Hay que desterrar algunas leyendas urbanas», afirmó, en referencia a la idea de que no se puede subir ningún dato de un cliente a la IA.
Recordó que el consentimiento informado del cliente, que se puede recoger en la hoja de encargo, es una base jurídica sólida para tratar sus datos. En el caso de los datos de la parte contraria, el Reglamento General de Protección de Datos permite tratarlos para la defensa de derechos.
Siempre, matizó, con el principio de minimización y según el tipo de asunto: no es lo mismo un caso penal o de familia que uno societario.
En cuanto al secreto profesional, sostuvo que queda «bastante blindado» si se usan cuentas profesionales. Su consejo es claro: nada de suscripciones de consumo. Hay que trabajar con cuentas que incluyan un contrato de encargado del tratamiento, como exige el artículo 28 del RGPD.
Más de una IA, y bien alimentada
A los abogados que ya trabajan con IA, Carrera les dio varios consejos. El primero, formarse: «Conocer la herramienta es la base para poder utilizarla de manera eficiente, correcta y obtener buenos resultados».
El segundo, no depender de una sola herramienta. Lo comparó con pedir una segunda opinión médica ante un problema serio y recomendó combinar varias IA jurídicas, como las de Lefebvre o Aranzadi, con varias generalistas, como ChatGPT, Claude o Gemini.
Recordó que detrás de las plataformas jurídicas también hay modelos generalistas. «No hay que dejar de lado la IA generalista, porque ahí es donde se pueden hacer cosas muy potentes. Ahora, eso sí, hay que alimentarla con información jurídica que sea segura, verificada».
Para eso destacó los conectores MCP, que describió como «una suerte de USB»: permiten que un modelo generalista consulte directamente bases de datos de jurisprudencia y legislación. «Cuando conectas y usas la IA con información verificada, el riesgo baja mucho. Las alucinaciones pueden seguir porque son inherentes a la IA, pero son muy inferiores».
«La guinda la pones tú»
El último consejo fue verificar. «Hoy en día redactas una demanda en cuestión de minutos, pero eso tiene que estar antes pensado y luego tiene que estar verificado y repensado», advirtió. Para Carrera, el tiempo que la IA ahorra en tareas repetitivas debe ir a pensar mejor los asuntos, atender mejor al cliente o, simplemente, vivir mejor.
«La IA más o menos puede ir dando respuestas similares a preguntas idénticas. Pero al final la guinda la pones tú y la verificación final la pones tú», afirmó. «La decisión la tienes que tomar tú y ahí es donde puedes marcar la diferencia y donde se van a marcar, de hecho, las diferencias en el mercado».
El responsable, siempre el abogado
Sus compañeros de mesa coincidieron en que la responsabilidad es siempre del profesional. Alfredo Arrién, penalista con clientes en causas mediáticas como el caso Koldo, recordó que el artículo 1101 del Código Civil hace responder al letrado por sus errores, y que «la IA no tiene responsabilidad civil».
También citó las sanciones del Tribunal Superior de Justicia de Canarias y del Tribunal Constitucional a abogados que alegaron jurisprudencia inventada. En su despacho, de diez abogados, la IA jurídica trabaja «como si fuera un junior más», siempre en pareja con un abogado junior y bajo la revisión de un sénior.
Marina Fernández, abogada de familia en Marbella y fundadora de Comunicadores Jurídicos, contó que los clientes ya llegan al despacho con la respuesta de la IA y la usan para poner a prueba al abogado. También explicó que ha vuelto a escribir demandas cortas, porque las de 25 folios ya no las lee nadie. Respecto a la Justicia, señaló que en Marbella solo hay cinco juzgados de instrucción.
Lealtad constitucional
En el tramo final, dedicado a la presión mediática sobre los tribunales, Carrera recordó cómo terminó su etapa en Washington. «Tuve que salir prácticamente corriendo de Washington porque simplemente estaba tramitando la extradición de un señor que parece que a alguien le molestaba», dijo, en referencia a Hugo «el Pollo» Carvajal, exjefe de la inteligencia venezolana.
Pidió a servidores públicos y políticos que respeten el principio de lealtad constitucional y dejen trabajar a los jueces con independencia, «por más que moleste».
Cerró con una idea que resume toda su intervención: buscar el equilibrio entre el uso responsable de la tecnología y sus posibilidades, porque «cerrarse a la tecnología, en definitiva, es hacernos daño a nosotros mismos».
«Se está produciendo un desequilibrio entre las capacidades que tienen y van adquiriendo los abogados con el uso de la inteligencia artificial y lo que tiene el Poder Judicial, que más bien ahora son prohibiciones, limitaciones y herramientas que no tienen ni la potencia ni la capacidad de lo que pueda llegar a hacer un abogado con IA», advirtió Carrera, que también fue juez de enlace de España en Estados Unidos y letrado del Gabinete Técnico del Tribunal Supremo de España.
Formación frente a prohibiciones
Según el «youtuber» legal la respuesta de las instituciones se ha centrado sobre todo en poner límites al uso de la IA, y eso no funciona. «Este tipo de prohibiciones de no usar IA generalistas es ponerle puertas al campo y al final no lleva a ningún lado», afirmó.
El riesgo, explicó, es que el veto lleve a algunos profesionales a usar estas tecnologías por su cuenta, fuera de los entornos institucionales y sin preparación ni precauciones.
De ahí su propuesta: «Más que en prohibiciones, vale más invertir en formación, en concienciación, en enseñar a hacer un uso adecuado de estas herramientas tan potentes».
El objetivo, a su juicio, es que los operadores jurídicos entiendan qué puede hacer la IA y qué no. También deben saber elegir la herramienta adecuada y conocer los riesgos de usarla.
¿Jueces robot?
Jorge Arrién planteó la posibilidad de que algún día haya jueces robot. Carrera no quiso responder con un sí o un no.
«Esto no es una cosa de blanco o negro. Si queremos usar la IA, las máquinas en algunas cosas sí van a decidir. La cuestión no es si o no, sino en qué casos, cómo, de qué manera y con qué salvaguardas», respondió.
Puso como ejemplo los conflictos de poco dinero, que muchos ciudadanos ni siquiera llevan a los tribunales porque el procedimiento no les compensa. Para esos casos, apuntó, podrían servir sistemas parecidos a los que ya usan las grandes plataformas de comercio electrónico para resolver las reclamaciones de sus usuarios.
«En cosas pequeñas, donde la gente ni se plantea ir a la Justicia, a lo mejor, igual que Amazon o eBay tienen plataformas en las que todo se resuelve de forma prácticamente digital, hay casos en los que yo no lo descartaría», señaló.
Eso sí, siempre con garantías suficientes para proteger los derechos de los ciudadanos. «No nos podemos cerrar a esto. La pregunta es cómo, cuándo, de qué manera y con qué salvaguardas».
IA generalista, pero bien alimentada
A los abogados que ya trabajan con IA, Carrera les dio dos consejos. El primero es conocer bien cada sistema: «Conocer la herramienta es la base para poder utilizarla de manera eficiente, correcta y obtener buenos resultados».
El segundo, no depender de una sola plataforma jurídica especializada ni renunciar a los modelos generalistas. «No hay que dejar de lado la IA generalista, porque ahí es donde se pueden hacer cosas muy potentes. Ahora, eso sí, hay que alimentarla con información jurídica que sea segura, verificada».
Aquí entran en juego los conectores, que unen estos modelos con bases de datos de jurisprudencia, legislación y documentación jurídica.
Con ellos baja uno de los grandes riesgos de la IA: las alucinaciones, es decir, que invente información falsa o incorrecta. «Cuando conectas y usas la IA con información verificada, el riesgo baja mucho. Las alucinaciones pueden seguir porque son inherentes a la IA, pero son muy inferiores», explicó.
«La guinda la pones tú»
Carrera terminó hablando del papel del profesional. La IA puede analizar documentos, proponer argumentos y dar respuestas parecidas a quien haga preguntas parecidas. Pero comprobar la información, valorar si sirve y tomar la decisión sigue siendo trabajo del abogado.
«La IA más o menos puede ir dando respuestas similares a preguntas idénticas. Pero al final la guinda la pones tú y la verificación final la pones tú», afirmó.
De ahí sacó una conclusión sobre la competencia entre despachos: «La decisión la tienes que tomar tú y ahí es donde puedes marcar la diferencia y donde se van a marcar, de hecho, las diferencias en el mercado».
