Los jueces de la Región alertan del mal uso de la IA en las apelaciones: "Tiende a incluir jurisprudencia falsa"

La Sala Civil y Penal del Tribunal Superior de Justicia de la vecina comunidad de Andalucía alertaba hace unos días en una sentencia del uso indiscriminado de la inteligencia artificial en la construcción y redacción de los recursos de apelación, una práctica cada vez más habitual en toda España (también en la Región) y respecto a la que no cabe ninguna objeción pero que en muchas ocasiones, indica la resolución, «la brillantez sintáctica encubre un vacío de densidad jurídica».

Al hilo, la magistrada Isabel Carrillo, portavoz en la Región de la Asociación Judicial Francisco de Vitoria (AJFV), resalta que «la IA es una herramienta legítima de trabajo al servicio, en este caso, de letrados que ha de ser admitida», aunque manifiesta que «cuando la técnica jurídica utilizada en un escrito de recurso es casi perfecta, al tribunal no le pasa desapercibido el posible uso de la IA en la confección del mismo».

"La IA no ha asistido al juicio"

Desde el punto de vista de este colectivo de jueces, la inteligencia artificial «puede aportar diversas argumentaciones en vía de recurso frente a una resolución desfavorable -o favorable si son alegaciones al recurso interpuesto de contrario-, lo que no deja de ser enriquecedor al obligar al tribunal a resolver sobre todo lo invocado».

Sin embargo, ponen el acento en que «ahí el letrado debe ser cauteloso, porque la IA no ha asistido al juicio o no ha asistido a las declaraciones de instrucción o el plenario -si es un juicio penal- y, salvo que se afine mucho por el que hace uso de ella, no tiene el contexto profundo de lo debatido y puede no captar matices específicos del caso».

Con este panorama, la herramienta puede «elaborar un recurso con argumentos genéricos, que alejan a este de la esencia de lo debatido, sobre todo si esto excede de lo jurídico para entrar en la esfera de lo fáctico o lo acreditado».

Riesgo de vulnerar la confidencialidad

«La IA tiende a incluir citas jurisprudenciales inexistentes, que, si no han sido comprobadas previamente por el profesional, pueden llevarle a elaborar un escrito inexacto», subraya Carrillo, que también pone el acento en que «existe también el riesgo de vulnerar normas de confidencialidad y de protección de datos si vuelca sin más la información de un expediente en los sistemas de IA».

La conclusión de AJF es que «un buen recurso exige el toque humano, precaución, cautela, responsabilidad y control crítico del contenido y análisis específico y de argumentación directa de lo que se haya de valorar»; todo ello «sin una extensión desmesurada, porque lo bueno, si breve, dos veces bueno» que, en demasiadas ocasiones, «solo la mente humana puede trasladar», expresa la jueza.

En opinión del abogado murciano José Manuel Hernández Benavente, «es inevitable que todos los operadores jurídicos usen IA tanto a la hora de interponer demandas, recursos o incluso de dictar sentencias». «Incluso las bases de datos jurídicas ya cuentan con herramientas de IA», observa.

"Pulir y embellecer"

«Yo personalmente la uso para escritos sencillos estereotipados y que van destinados a ser usados en múltiples procedimientos, y para estructurar mejor los escritos previamente redactados, completarlos y evitar reiteraciones», admite, al tiempo que reconoce que «estas herramientas pueden tener alucinaciones y mencionar sentencias, citas doctrinales o artículos inventados, algo que puede dar lugar a un abogado a tener responsabilidades penales y disciplinarias». A su juicio, al redactar, «primero hay que estudiar, pensar y trabajar, luego usar IA para pulir y embellecer y finalmente repasar para evitar alucinaciones».

Otro letrado, el penalista Raúl Pardo-Geijo, remarca que «la inteligencia artificial ya está aquí y sería absurdo ignorarla», al tiempo que especifica que «lo preocupante no es que se use, sino en qué convierte a quien la usa».

Y es que «estas herramientas han aprendido de lo ya resuelto: saben decir lo que se ha dicho, no lo que nadie ha dicho todavía», argumenta el abogado, que incide en que «si un escrito lo construye una máquina y el de la parte contraria lo construye otra, el resultado son dos textos impecables discutiendo entre sí sin que ninguno aporte nada nuevo». «Se habrá pasado de crear el argumento a limitarse a validar el que viene dado. Eso no es un debate: son dos ecos de la misma fuente», asevera.

Si se impone la costumbre de validar en lugar de pensar, el derecho dejará de moverse

Raúl Pardo-Geijo

— Abogado

«Y arriba, un tribunal con otra máquina que corregirá a las dos de abajo, bebiendo del mismo sitio. Si se impone la costumbre de validar en lugar de pensar, el derecho dejará de moverse. Y no lo notará nadie, porque los escritos serán magníficos», sentencia.

"Localizar y contrastar doctrina"

«Yo utilizo IA y hoy lo considero básico: es como tener la mejor base de datos jurídica que haya existido», dice otra abogada, María Jesús Ruiz de Castañeda, que emplea esta tecnología «para localizar y contrastar doctrina y jurisprudencia en bases de datos legales y para revisar cálculos: liquidaciones de intereses, cuadros de amortización, pensiones, particiones hereditarias o cuotas de comunidad, donde un segundo control aritmético evita errores que luego pesan mucho en un procedimiento». No obstante, tiene claro que «bajo ningún concepto cabe delegar el cien por cien», dado que «la IA no responde ante el colegio ni ante el juzgado, respondo yo».

La profesional precisa que «el letrado asume personalmente el texto en todos sus puntos y referencias, de modo que cada cita se verifica en su fuente original y cada cálculo se comprueba», así que «una referencia alucinada o una cifra sin contrastar no es un fallo técnico, es una infracción del deber de buena fe procesal».

Esta tecnología nos quita trabajo mecánico para devolvernos tiempo de pensar

Mª Jesús Ruiz de Castañeda

— Abogada

Ella solo usa «programas que cumplan la normativa de protección de datos y el reglamento europeo de IA, sin volcar nunca datos de clientes ni información amparada por el secreto profesional».

Ruiz de Castañeda opina que «la IA se integrará en el día a día como en su momento lo hicieron las bases de datos o LexNET, y los colegios y el Poder Judicial irán fijando criterios de uso responsable. Lo indelegable seguirá siendo el criterio jurídico, la estrategia y la responsabilidad: la tecnología nos quita trabajo mecánico para devolvernos tiempo de pensar».