El log dice que fui yo, no que lo leyera.

Dentro del expediente

El registro dice «usuario KM, 17:42, aprobado». Lo que no dice es si abrí el documento, si lo leí entero, si entendí lo que firmaba o si estaba contestando el teléfono mientras pulsaba.

Este es un problema de diseño, no de mala fe. Los sistemas registran lo que es fácil registrar. Un clic deja huella limpia. La atención no.

Qué promete la etiqueta «human in the loop» y qué entrega

La expresión human in the loop se usa para tranquilizar, con el razonamiento de que hay una persona y por tanto hay control. Pero la etiqueta describe la posición en el organigrama del proceso, no la capacidad de esa persona para cambiar el resultado. Un humano presente puede estar supervisando o puede estar homologando.

La diferencia se nota en una sola pregunta, que es qué pasa cuando dice que no. Si la negativa devuelve el trabajo, escala el asunto o detiene la salida, hay supervisión. Si la negativa solo abre un formulario que nadie lee, el sistema tiene un trámite con forma de control.

Un registro completo puede describir un proceso vacío

Se puede tener trazabilidad impecable de un procedimiento que no revisa nada. Hora exacta, usuario identificado, documento asociado, todo correcto. Y aun así, ningún dato sobre lo único que importaría en una reclamación, que es si esa persona tuvo delante la información necesaria y pudo actuar sobre ella.

El Reglamento europeo de inteligencia artificial, cuando exige supervisión humana para determinados sistemas, no se conforma con la presencia. Habla de capacidad real para entender qué hace el sistema y qué límites tiene. También para interpretar su salida y para detener la operación en marcha si conviene Fuente primaria ↗. Comprobar la fecha y el rol, aplicando el papel concreto que uno tiene en cada uso, es trabajo previo a cualquier afirmación de cumplimiento.

Lo que registraría además del clic

Tres cosas, y ninguna exige montar un sistema nuevo. La versión exacta que se tuvo delante, porque aprobar la doce y entregar la trece convierte la firma en un adorno. La consulta a la fuente, aunque sea un enlace al documento original abierto en ese momento. Y el motivo cuando se corrige o se rechaza, aunque sean dos líneas.

Con eso, el registro deja de contar que alguien pasó por ahí y empieza a contar qué hizo. La diferencia se aprecia cuando pasa un año y la conversación no la recuerda nadie.

Guardar todo tampoco es la solución

La tentación contraria es activar el registro máximo y dormir tranquilo. Un archivo que lo guarda todo acumula datos que luego hay que proteger y justificar durante años, y que con frecuencia incluyen información que nunca debió entrar ahí. El marco de gestión de riesgos del NIST insiste en la proporcionalidad de las medidas respecto al riesgo del uso concreto Fuente primaria ↗, y esa proporción también aplica a la evidencia.

Yo definiría antes qué preguntas debe poder contestar el registro dentro de seis meses. Y guardaría lo necesario para contestarlas, no todo lo que el sistema es capaz de escribir.

La prueba que haría antes de confiar en el proceso

Un ensayo sencillo con datos sintéticos. Que alguien rechace deliberadamente una salida y se compruebe qué queda registrado, es decir, si aparece el motivo, si el trabajo vuelve al origen, si la salida queda bloqueada de verdad. Después el mismo ensayo con un cambio de versión a mitad del proceso, para ver si la aprobación sigue apuntando al documento correcto.

Si esas dos pruebas se pasan, el registro empieza a valer algo. Si no se pueden hacer, ya se sabe qué demuestra el sistema, que es la actividad de una cuenta.

Por qué esto se te vuelve en contra precisamente cuando importa

Nadie mira estos registros cuando todo va bien. Se miran cuando hay una reclamación, una inspección o un cliente enfadado, y entonces la pregunta no es si el proceso existía sino qué puedes demostrar. Un asiento que dice «aprobado por» y nada más deja al profesional sosteniendo con su palabra lo que creía tener documentado.

Esto ya no es una hipótesis de despacho

En marzo de 2026, la Sala de lo Social del Tribunal Superior de Justicia de Navarra archivó un expediente sancionador contra una abogada que había incorporado a un recurso ocho citas de sentencias inexistentes, atribuidas a tribunales reales. El archivo llegó porque reconoció el error y retiró las citas, pero el tribunal dejó dicho que el uso descuidado de estas tecnologías «es susceptible de integrar un claro ejemplo de mala fe procesal y de abuso del proceso» Fuente primaria ↗.

Para este expediente importa otra cosa. Según la nota del Consejo General del Poder Judicial, la abogada atribuyó el error a la falta de revisión del borrador, y el tribunal archivó por la rapidez de sus disculpas. La pregunta útil para cualquier despacho es qué rastro podría enseñar de su propia revisión si un día se la piden. Y la deontología profesional apunta al mismo sitio cuando recuerda que las obligaciones de competencia y veracidad no se delegan en la herramienta Fuente primaria ↗, aunque esa opinión concreta pertenezca a otra jurisdicción y no cree obligaciones aquí.

La versión corta para llevarse al despacho

Si mañana tuvieras que explicar ante alguien serio por qué firmaste un documento hecho con ayuda de una máquina, ¿qué enseñarías? Si la respuesta es una línea de registro con tu nombre y una hora, tienes un problema que hoy no se ve. Si puedes enseñar qué versión exacta tuviste delante y qué corregiste sobre ella, la conversación es otra.

Que conste tu nombre en el registro prueba que el sistema te dejó pasar, y no que revisaras.

Lo que me preguntan cuando cierro el portátil.

¿Qué significa human in the loop?

Que una persona interviene en el proceso antes de que el resultado tenga efecto. La expresión no dice cuánto interviene. Puede significar revisar el fondo del asunto o pulsar un botón sin leer nada, y el registro suele parecer idéntico en los dos casos.

¿Un log sirve como prueba de revisión humana?

Sirve como prueba de que ocurrió un evento asociado a una cuenta, con una hora. No prueba lectura, comprensión ni criterio. Para acercarse a eso hace falta rastro de lo que se consultó y de qué versión concreta quedó autorizada, con el motivo cuando hubo corrección.

¿Qué debería registrar un proceso con supervisión humana?

Quién tenía la responsabilidad y qué versión concreta del documento se tuvo delante. Después, qué se cambió o se rechazó, con su motivo, y qué salida exacta quedó autorizada. Sin la versión y sin el motivo, el registro cuenta que alguien pasó por ahí, no que decidiera.

El expediente detrás del artículo.

Reglamento europeo de inteligencia artificial ↗EUR-Lex · Reglamento (UE) 2024/1689 · 2024
Normativa UE; comprobar versión y calendarioPerfil de riesgos de IA generativa ↗NIST · AI 600-1 · 2024
Marco técnico voluntarioEl TSJ de Navarra advierte sobre citas jurisprudenciales inventadas con IA ↗Consejo General del Poder Judicial · nota de 26 de marzo sobre un auto de la Sala de lo Social del TSJ de Navarra · 2026
Nota oficial del Consejo General del Poder JudicialFormal Opinion 512: herramientas de IA generativa ↗American Bar Association · Comité de Ética y Responsabilidad Profesional · 2024
Opinión deontológica; jurisdicción de EE. UU.

Fuentes consultadas el 10 de septiembre de 2026. Las recomendaciones y ejemplos son elaboración editorial y no se atribuyen íntegramente a estas fuentes. Comprueba versión y ámbito antes de aplicar una norma.

Divulgación general. Ninguna herramienta de esta web certifica la revisión, seguridad o conformidad de un proceso.