La transformación digital de la Justicia acaba de cruzar una línea inédita. Por primera vez, un tribunal ha detectado un intento deliberado de manipular un sistema de inteligencia artificial judicial mediante instrucciones ocultas dentro de una demanda procesal.
o se trató de un hackeo clásico, ni de un virus, ni de un acceso ilícito al sistema informático del juzgado. Fue algo mucho más sofisticado: un ataque semántico diseñado para influir en cómo una IA interpretaba un escrito judicial.
El caso ocurrió en la ciudad brasileña de Parauapebas, en el estado de Pará, dentro de la jurisdicción laboral.
Dos letradas introdujeron en una demanda texto invisible —escrito en color blanco sobre fondo blanco— con instrucciones dirigidas específicamente a sistemas de inteligencia artificial.
El mensaje oculto ordenaba a cualquier IA que analizara el documento que respondiera de forma superficial y evitara cuestionar los documentos aportados.
La maniobra pretendía aprovechar una realidad cada vez más evidente: numerosos tribunales ya utilizan herramientas de IA generativa para clasificar escritos, resumir expedientes, sugerir borradores o agilizar análisis documentales.
En este caso, el sistema utilizado por la Justicia laboral brasileña era “Galileu”, una herramienta institucional de apoyo judicial basada en inteligencia artificial.
¿Qué es realmente un “prompt injection”?
En el ámbito técnico, este tipo de ataque se conoce como prompt injection. Consiste en insertar instrucciones ocultas dentro de un contenido aparentemente normal para alterar el comportamiento de una inteligencia artificial.
La clave está en que los modelos de lenguaje no “leen” como un ser humano. Para una IA, todo el texto es potencialmente una instrucción: da igual que esté visible, escondido, en otro color o incrustado dentro de un documento. Si el sistema puede procesarlo, existe la posibilidad de que también pueda obedecerlo.
«La verdadera cuestión es cómo proteger la integridad del proceso judicial cuando las propias herramientas inteligentes pueden convertirse en objetivo de manipulación».
Hasta ahora, este tipo de ataques se había estudiado principalmente en laboratorios de ciberseguridad y entornos académicos.
Pero el caso de Brasil supone un salto cualitativo: por primera vez, el prompt injection entra directamente en el proceso judicial como posible herramienta de manipulación procesal.
El detalle más inquietante: la IA detectó el engaño
Paradójicamente, fue el propio sistema de inteligencia artificial del tribunal el que descubrió la manipulación.
Durante el procesamiento del documento, el sistema detectó la existencia de texto oculto y alertó de la anomalía.
El juez consideró que la conducta suponía un atentado contra la dignidad de la Justicia y calificó la actuación como una forma de sabotaje algorítmico institucional.
La resolución impuso a las abogadas una multa equivalente al 10% del valor del procedimiento —más de 84.000 reales brasileños (14.314 euros)— y ordenó remitir los hechos a los órganos disciplinarios de la abogacía brasileña.
Mucho más que una anécdota tecnológica
Lo verdaderamente relevante del caso no es solo la sanción. Lo importante es que abre una nueva dimensión jurídica y deontológica.
Durante décadas, el debate sobre manipulación procesal giraba alrededor de documentos falsos, alteración de pruebas o estrategias de mala fe.
Ahora aparece un nuevo escenario: escritos diseñados específicamente para influir en sistemas automatizados de análisis jurídico.
La pregunta ya no es únicamente si una demanda convence al juez humano. También empieza a importar cómo interactúa con las herramientas tecnológicas que asisten al órgano judicial.
Y ahí surge un problema delicado: los sistemas de IA pueden convertirse en una nueva superficie de ataque dentro del proceso judicial.
Un aviso para toda la profesión jurídica
El caso brasileño marca probablemente el inicio de una nueva etapa en la relación entre abogacía e inteligencia artificial. La digitalización judicial ya no es una cuestión futurista; está modificando las reglas del juego procesal en tiempo real.
A partir de ahora, conceptos como prompt injection, manipulación semántica o sabotaje algorítmico dejarán de pertenecer exclusivamente al lenguaje técnico de la ciberseguridad para entrar en el debate jurídico y deontológico.
Porque la gran cuestión ya no es si la IA llegará a los tribunales.
La verdadera cuestión es cómo proteger la integridad del proceso judicial cuando las propias herramientas inteligentes pueden convertirse en objetivo de manipulación.
