Desafíos de la IA generativa en dominios de alto riesgo: requisitos para la simplificación judicial fiable

• Ana-Belén Gil-González ^[1] ; Silvia Domínguez Castro ^[1] ; Clara Rodríguez Marcos ^[1] ; Alberto Jiménez Sánchez ^[1] ; Javier Manso Conde ^[1] ; Jorge Enrique González Gonzalo ^[1]
  1. [1] Universidad de Salamanca

     Universidad de Salamanca

     Salamanca, España

     
• Localización: Inteligencia artificial aplicada al reto demográfico / coord. por Ana Belén Gil González , Laura Grande Pérez, Javier Parra Domínguez , 2026, ISBN 978-84-1091-189-5, págs. 155-161
• Idioma: español
• Títulos paralelos:
  • Challenges of generative ai in high-risk domains: Requirements for reliable judicial simplification
• Enlaces
  • Texto completo
• Resumen
  • español

    El acceso a la justicia requiere no solo la posibilidad de acudir a un tribunal, sino la capacidad de comprender sus decisiones. En España, la Ley 6/2022 establece la accesibilidad cognitiva como un derecho, promoviendo el uso de la lectura fácil (LF). Sin embargo, la saturación del sistema judicial hace inviable la adaptación manual masiva de sentencias. La inteligencia artificial generativa (GenIA) surge como una solución potencial, pero su aplicación en justicia es clasificada como de «alto riesgo» por el Reglamento de IA de la UE debido a problemas como las alucinaciones y la falta de explicabilidad. Este trabajo analiza dichos desafíos técnicos y jurídicos, proponiendo una arquitectura de fiabilidad basada en tres requisitos innegociables: anclaje factual con trazabilidad documental, supervisión humana obligatoria y segregación funcional de roles. El objetivo es definir un estándar que permita automatizar la simplificación del lenguaje jurídico sin comprometer el rigor legal ni las garantías procesales.

  • English

    Access to justice requires not only the possibility of going to court, but also the ability to understand its decisions. In Spain, Law 6/2022 establishes cognitive accessibility as a right, promoting the use of Easy Reading (LF). However, the saturation of the judicial system makes the manual adaptation of judgments unfeasible. Generative Artificial Intelligence (GenAI) emerges as a potential solution, but its application in justice is classified as «High Risk» by the EU AI Regulation due to problems such as hallucinations and lack of explainability. This paper analyses these technical and legal challenges, proposing a reliability architecture based on three non-negotiable requirements: factual anchoring with documentary traceability, mandatory human supervision and functional segregation of roles. The aim is to define a standard that allows the simplification of legal language to be automated without compromising legal rigour or procedural guarantees.