Si su despacho va a desplegar o comprar una herramienta de IA jurídica, exija primero una evaluación de impacto en derechos fundamentales (FRIA) y pruebas de trazabilidad. Cuando el sistema se clasifica como de alto riesgo bajo el Reglamento europeo de IA, esa evaluación deja de ser una recomendación y se convierte en un requisito previo a la puesta en servicio, según el artículo 27 del RIA. Sin FRIA, sin control humano documentado y sin cláusulas contractuales de responsabilidad, no hay garantía de cumplimiento ni de seguridad jurídica para el despacho.
En resumen:
- Es imprescindible realizar la evaluación de impacto en derechos fundamentales antes de desplegar herramientas de IA jurídica de alto riesgo, según el Reglamento europeo de IA.
- La FRIA debe documentar sesgos algoritmicos, discriminación y vulneraciones de derechos, y distinguirse de una evaluación de protección de datos (PIA).
- La normativa española y europea exige control humano efectivo, revisión crítica y cláusulas de responsabilidad en el uso de IA en justicia.
- Antes de contratar, se recomienda exigir al proveedor evidencia de trazabilidad, pruebas de rendimiento, logs y cláusulas claras de responsabilidad.
- La trazabilidad y el control humano efectivo son las mejores garantías para limitar riesgos y responsabilidades en la adopción de IA jurídica.
Tabla de contenidos
- Qué es una evaluación de IA jurídica y en qué se distingue de una PIA
- Qué normas regulan hoy las evaluaciones de IA jurídica en España
- Cómo evaluar sistemas de IA jurídica antes de contratarlos
- Checklist para la RFP: qué documentos exigir a un proveedor
- Los riesgos que más preocupan y cómo mitigarlos
- Qué pruebas y evidencia debería pedir al proveedor
- Veredicto: qué hacer hoy si va a evaluar o comprar IA jurídica
- Lo que la mayoría de despachos pasa por alto al evaluar IA jurídica
- Ai Consultas: una IA jurídica pensada para superar esta evaluación, no para evitarla
- Fuentes
Qué es una evaluación de IA jurídica y en qué se distingue de una PIA
Una evaluación de IA jurídica, técnicamente la FRIA (Fundamental Rights Impact Assessment), es el análisis previo obligatorio que identifica, mide y mitiga los riesgos que un sistema de IA de alto riesgo puede causar sobre derechos fundamentales antes de entrar en funcionamiento. El artículo 27 del RIA exige que esta evaluación detecte específicamente sesgos algorítmicos, discriminación potencial y vulneraciones de protección de datos.
La FRIA no es lo mismo que una PIA (evaluación de impacto en protección de datos) del RGPD. Ambas comparten metodología, pero difieren en alcance:
- La PIA se centra exclusivamente en el tratamiento de datos personales y sus riesgos para la privacidad.
- La FRIA cubre un espectro más amplio de derechos: igualdad, tutela judicial efectiva, no discriminación y acceso a la justicia.
- La FRIA es obligatoria de forma específica para sistemas de IA de alto riesgo, mientras la PIA se activa por el tipo de tratamiento de datos, no por la naturaleza del algoritmo.
- La FRIA se elabora con equipos multidisciplinares (juristas, auditores algorítmicos, expertos en datos) que combinan pruebas cuantitativas de sesgo con auditorías cualitativas de impacto en derechos.
Por su naturaleza ex ante, la FRIA debe completarse antes de contratar o desplegar la herramienta, no después de un incidente.
Qué normas regulan hoy las evaluaciones de IA jurídica en España
El marco que enmarca cualquier evaluación de IA jurídica en España combina normativa europea y desarrollos nacionales recientes, y conviene conocerlo antes de firmar cualquier contrato de software.
- El Reglamento europeo de IA obliga, en su artículo 27, a realizar la FRIA para sistemas de alto riesgo, identificando y mitigando sesgos, discriminación y riesgos sobre datos personales.
- La Instrucción 2/2026 del Pleno del Consejo General del Poder Judicial fija límites concretos para el uso de IA en la actividad jurisdiccional: exige control humano efectivo, prohíbe que la IA sustituya la función del juez y obliga a la revisión crítica de cualquier borrador generado por un sistema automatizado.
- La Política de uso de la IA en la Administración de Justicia del CTEAJE, publicada en 2024, establece principios operativos mínimos: prevención de sesgos, protección de datos y revisión humana obligatoria de cualquier resultado generado por IA.
- El Real Decreto Ley 6/2023 introdujo medidas de digitalización procesal que condicionan cómo se integran estos sistemas en la práctica diaria de juzgados y despachos.
Las consecuencias de ignorar este marco no son teóricas. La ausencia de FRIA puede calificarse como un defecto de conformidad con el RIA, lo que abre la puerta a sanciones administrativas, multas y, en casos graves, la retirada del sistema del mercado. Para un despacho, eso significa exposición directa a responsabilidad profesional si un cliente resulta perjudicado por una decisión basada en una herramienta no evaluada correctamente.
Cómo evaluar sistemas de IA jurídica antes de contratarlos
Evaluar una herramienta de IA jurídica exige mirar más allá de la demo comercial. Estos son los cinco criterios que determinan si un sistema es fiable para uso profesional:
- Exactitud verificable. Pida métricas de precisión sobre casos reales de su especialidad, no solo cifras genéricas de marketing. Un sistema que acierta en derecho mercantil puede fallar en laboral.
- Explicabilidad y trazabilidad. El proveedor debe poder mostrar de qué fuentes normativas o jurisprudenciales extrae cada respuesta, y permitir auditar ese recorrido si un cliente cuestiona una conclusión.
- Protección de datos y soberanía de la información. Verifique dónde se almacenan los datos, si existen entornos aislados para información confidencial y si el sistema es compatible con la PIA que ya tenga elaborada el despacho.
- Gestión activa de sesgos. Exija evidencia de pruebas de no discriminación, especialmente si la herramienta interviene en áreas sensibles como laboral o extranjería.
- Seguridad, actualización normativa y soporte. Un sistema jurídico que no se actualiza con la jurisprudencia y normativa vigente pierde fiabilidad en semanas, no en años.
La OCDE recomienda marcos de gobernanza y supervisión humana continuos precisamente porque la falta de transparencia algorítmica es uno de los riesgos más difíciles de detectar a posteriori.
Consejo profesional: Pida siempre al proveedor un caso de prueba con datos anonimizados de su propio despacho, no solo el ejemplo estándar de la demo. La diferencia entre un sistema genérico y uno pensado para derecho español se nota justo ahí.
Checklist para la RFP: qué documentos exigir a un proveedor
Antes de firmar cualquier contrato de IA jurídica, un despacho debería reclamar por escrito lo siguiente:
- FRIA completa o, como mínimo, un resumen ejecutivo que detalle los riesgos identificados y las medidas de mitigación aplicadas.
- Resultados de pruebas con casos reales y métricas de exactitud desagregadas por área jurídica (fiscal, laboral, mercantil).
- Acceso a logs y registros de trazabilidad que permitan auditar cualquier respuesta generada, incluida la fecha de la fuente normativa consultada.
- Cláusulas contractuales de responsabilidad que definan quién asume el riesgo si una respuesta errónea causa un perjuicio a un cliente.
- Procedimientos de revisión humana documentados y un plan de contingencia por si el sistema queda inaccesible o genera resultados anómalos.
Un proveedor que no puede entregar estos cinco puntos con claridad probablemente tampoco ha hecho el trabajo regulatorio de fondo. Puede consultar más detalle sobre responsabilidad por IA en el derecho español antes de negociar estas cláusulas.
Los riesgos que más preocupan y cómo mitigarlos
Tres riesgos concentran la mayor parte de los incidentes documentados en el uso de IA jurídica: sesgo algorítmico, pérdida de confidencialidad y dependencia tecnológica excesiva.
- Sesgo: valide con pruebas estadísticas específicas por área jurídica, no con una certificación genérica del proveedor.
- Confidencialidad: exija anonimización de datos sensibles y, siempre que sea posible, entornos de procesamiento aislados que impidan que la información del cliente entrene modelos de terceros.
- Dependencia tecnológica: mantenga un plan de continuidad que no dependa exclusivamente del sistema de IA para tareas críticas de plazo.
- Opacidad: solicite auditorías externas periódicas y un protocolo claro de reporting de incidentes.
Un solo caso judicial ya ha costado sanciones disciplinarias en España. El primer juez sancionado por usar IA en una sentencia es el ejemplo más claro de lo que ocurre cuando el control humano falla y la revisión crítica que exige la Instrucción 2/2026 no se aplica en la práctica.
Investigaciones académicas, como las de la Universidad Pablo de Olavide, advierten que usar modelos generalistas en contextos jurídicos multiplica estos riesgos: aumentan los errores, desaparece la trazabilidad y se compromete la confidencialidad de la información del cliente.
Qué pruebas y evidencia debería pedir al proveedor
Además de la documentación regulatoria, conviene exigir evidencia verificable del rendimiento real del sistema, no solo promesas comerciales.
- Resultados de rendimiento en pruebas estandarizadas: es importante que el proveedor haga públicos resultados internos de su motor jurídico, incluyendo notas en exámenes jurídicos oficiales que permitan comparar el rendimiento frente a otros sistemas.
- Arquitectura técnica verificable: una arquitectura multiagente, donde distintos módulos especializados contrastan la respuesta antes de entregarla, reduce el riesgo de error frente a un modelo generalista único.
- Mecanismos de control humano integrados en el propio flujo del producto, no añadidos como capa externa tras la generación de la respuesta.
- Fuentes documentales: pida que el proveedor explique si sus respuestas se basan en normativa y jurisprudencia oficial actualizada.
Estos elementos no sustituyen la FRIA, pero son la evidencia práctica que un despacho puede contrastar antes de comprometerse con un proveedor.
Veredicto: qué hacer hoy si va a evaluar o comprar IA jurídica
Priorice la FRIA y las cláusulas de responsabilidad por encima de cualquier funcionalidad atractiva de la demo. Diseñe un piloto acotado (un área jurídica, un volumen limitado de consultas) antes de un despliegue completo, y forme a su equipo en los límites del control humano que exige la Instrucción 2/2026. La gobernanza interna, no la tecnología en sí, es lo que determina si la herramienta reduce o multiplica el riesgo del despacho.
| Prioridad | Acción concreta | Por qué importa |
|---|---|---|
| 1 | Exigir FRIA o resumen ejecutivo antes de firmar | Requisito legal para sistemas de alto riesgo (art. 27 RIA) |
| 2 | Pilotar en un área jurídica acotada | Limita exposición mientras se valida exactitud real |
| 3 | Documentar revisión humana de cada resultado | Exigencia de la Instrucción 2/2026 del CGPJ |
| 4 | Negociar cláusulas de responsabilidad | Define quién asume el riesgo ante un error |
Lo que la mayoría de despachos pasa por alto al evaluar IA jurídica
La conversación sobre IA jurídica en España sigue centrada casi en exclusiva en la exactitud de las respuestas, y eso es un error de enfoque. La exactitud es necesaria, pero no es lo que distingue a un sistema fiable de uno peligroso: lo que distingue a ambos es la trazabilidad, es decir, la capacidad de mostrar de dónde sale cada afirmación jurídica y cuándo se actualizó esa fuente.
La mayoría de despachos que adoptan una herramienta de IA lo hacen tras una demo convincente, sin pedir nunca el resumen ejecutivo de la FRIA ni las cláusulas de responsabilidad. Es un error que se paga caro cuando algo falla, porque entonces ya no hay margen para negociar quién asume el riesgo. Nuestra lectura, tras analizar el marco regulatorio y los casos ya documentados, es que el control humano efectivo no es una casilla de cumplimiento: es la única barrera real entre una respuesta jurídica correcta y un error que compromete a un cliente. Los despachos que tratan la evaluación como un trámite administrativo, en lugar de como un filtro de calidad, son los que después aparecen en titulares por las razones equivocadas.
— Ai Consultas
Ai Consultas: una IA jurídica pensada para superar esta evaluación, no para evitarla
Frente a las IAs generalistas, que mezclan fuentes sin verificar y generan respuestas sin trazabilidad clara, algunas IAs jurídicas especializadas construyen sus respuestas sobre normativa y jurisprudencia oficial actualizada, con una arquitectura multiagente que contrasta cada consulta fiscal, laboral o legal antes de entregarla.
Eso significa que, cuando su despacho aplique el checklist de esta guía a un proveedor, un sistema bien diseñado debería cumplir buena parte de los puntos que debe exigir: trazabilidad de fuentes, control humano integrado y un enfoque adaptado al derecho español. Puede consultar el detalle de las soluciones jurídicas de Ai Consultas para ver cómo se aplica esta arquitectura a consultas fiscales, laborales y legales, o revisar directamente quiénes somos y cómo el equipo estructura la evaluación técnica del producto antes de iniciar una prueba en su despacho.
Fuentes
- AI Act Service Desk — Article 27 (es)
- BOE — Instrucción 2/2026, CGPJ
- Política de uso de la IA en la Administración de Justicia — CTEAJE (junio 2024)
- OCDE — Gobernar con la inteligencia artificial (AI in justice)
- Lenguaje Jurídico — Evaluación de impacto FRIA
