En resumen: en LegalTech, dejar que una IA actúe sin supervisión humana no es una función avanzada, es un riesgo. Los modelos generativos fabrican citas a sentencias inexistentes, aplican el marco legal equivocado o generan confianza uniforme incluso cuando se equivocan. Por eso el diseño «human in the loop» (HITL) no es solo una casilla de cumplimiento normativo: bien implementado, acelera la revisión en lugar de ralentizarla, y se convierte en la diferencia entre una herramienta que un despacho o una plataforma puede defender ante un cliente o un tribunal, y una que no.
El problema real sin human in the loop
Cuando una organización usa una IA para tareas jurídicas, la responsabilidad no desaparece: la organización responde por lo que la IA produce, aprobado o no por un humano. Y los modelos generativos tienen fallos recurrentes que ninguna mejora de entrenamiento elimina del todo:
- Autoridad legal fabricada: citas a sentencias o normas inexistentes, con números de expediente aparentemente plausibles.
- Aplicación incorrecta del marco jurídico: razonamientos de un ordenamiento aplicados a otro, o normativa equivocada según la materia.
- Pérdida de contexto: no detectar cómo interactúan remisiones cruzadas o excepciones dentro de un mismo documento.
- Filtraciones de confidencialidad: enviar documentos de cliente a servicios externos que podrían usarlos para entrenar sus propios modelos.
- Sesgo de automatización: presentar resultados con el mismo tono de seguridad estén o no en lo cierto, lo que lleva a los profesionales a confiar sin cuestionar.
No es solo obligación deontológica, es ventaja competitiva
La supervisión humana en el uso de IA legal no nace de un capricho regulatorio: viene de las propias reglas de responsabilidad profesional. Los códigos deontológicos de la abogacía exigen que cualquier asistencia —humana o de IA— en la prestación de un servicio jurídico esté supervisada por un profesional. No es un diseño opcional: es un requisito.
Pero limitarlo a «obligación» es quedarse corto. Bien diseñado, el HITL no ralentiza el trabajo: desplaza el esfuerzo humano de redactar a revisar, que es donde el criterio profesional aporta más valor. La IA gestiona volumen y consistencia; el profesional aporta el juicio. El resultado no es «aceptar más despacio», sino decisiones más rápidas con responsabilidad documentada — exactamente lo que un cliente, un inversor o un regulador quieren ver en una plataforma jurídica.
En España, el Consejo General del Poder Judicial ha formalizado esta lógica en su Instrucción 2/2026 sobre uso de IA en la actividad jurisdiccional, que fija principios directamente trasladables a cualquier plataforma de resolución de conflictos con IA:
- Control humano real y consciente: nada de decisiones autónomas del sistema.
- No sustitución: la IA no puede reemplazar la valoración de hechos ni la interpretación jurídica.
- Responsabilidad de quien decide: la persona que aprueba el resultado responde por él, con independencia de que haya usado IA.
- Revisión crítica completa: ningún contenido generado por IA se incorpora sin validación humana previa.
- Prevención de sesgos: identificar y evitar sesgos algorítmicos antes de que afecten al resultado.
Una plataforma que integra estos principios de diseño no solo cumple con la normativa que viene: construye la confianza que un mercado cada vez más escéptico de la IA jurídica exige antes de adoptarla.
Un ejemplo práctico
En un proceso de negociación asistida con diseño human in the loop, la IA puede organizar la información del caso, sugerir una estructura para la propuesta y resumir los puntos de acuerdo y desacuerdo tras cada intercambio. Lo que no debe hacer es decidir por las partes qué oferta aceptar, ni presentar un resumen como si fuera la única lectura posible del conflicto. La diferencia es sutil pero decisiva: la IA prepara el terreno para que la parte y su asesor decidan con mejor información, no para que decidan menos.
Qué cambia con la tecnología: los puntos de control del human in the loop
Implementar human in the loop de forma real —no simbólica— requiere puntos de control explícitos en el propio flujo del producto:
- Selección de tarea y parámetros: qué puede hacer la IA en cada fase queda definido de antemano, no decidido sobre la marcha.
- Control de acceso a la información: la IA solo ve los documentos relevantes para su tarea, nunca el expediente completo sin justificación.
- Verificación de resultados con fuentes trazables: cada afirmación generada debe poder rastrearse hasta el documento o dato que la sustenta.
- Botón de parada real: la persona supervisora puede detener, corregir o revertir el resultado en cualquier momento, no solo aceptarlo o rechazarlo al final.
- Auditorías periódicas: comparar resultados generados por IA con casos ya resueltos correctamente, para detectar deriva o sesgo antes de que afecte a un caso real.
Este diseño convierte la supervisión humana en parte de la arquitectura del producto, no en un trámite añadido después.
El papel de DEIUS en el diseño human in the loop
DEIUS diseña sus flujos de negociación asistida con puntos de control humanos explícitos: la IA organiza, estructura y documenta, pero la decisión de aceptar, rechazar o contraofertar es siempre de las partes, con supervisión humana cuando corresponde. No hay automatización de decisiones sobre el fondo del conflicto.
Preguntas frecuentes
¿Por qué no basta con que la IA sea muy precisa para prescindir de supervisión humana? Porque incluso los modelos más avanzados fabrican información plausible (citas inexistentes, aplicaciones incorrectas de normativa) con el mismo tono de seguridad que cuando aciertan. Por eso el diseño human in the loop es la garantía: sin supervisión, esos errores llegan igual de convincentes al usuario final.
¿La supervisión humana ralentiza el proceso? Bien diseñada, no: desplaza el esfuerzo humano de redactar desde cero a revisar y validar, que suele ser más rápido y reduce el riesgo de error.
¿Quién responde si una IA jurídica se equivoca? La organización que la usa, haya o no un humano que aprobó el resultado. Por eso el diseño de puntos de control no es opcional: es lo que permite documentar que hubo revisión real.
¿Qué dice la normativa española sobre supervisión de IA en el ámbito jurídico? La Instrucción 2/2026 del CGPJ, aunque dirigida a jueces, fija principios —control humano real, no sustitución, revisión crítica completa— que marcan el estándar que cualquier plataforma de resolución de conflictos debería seguir.
Para seguir
Si quieres entender cómo diseñar puntos de control de supervisión humana en un proceso de negociación asistido por IA, puedes solicitar un diagnóstico en deius.io.
