El humano que solo hace clic es un adorno caro.
Human in the loop es poder enseñar qué contrastó la persona, qué objetó y qué habría pasado si llega a decir que no. Ponerla al final del proceso no basta.
EDICTVM·I
Ideas incómodas para quienes usan IA donde equivocarse cuesta dinero.
Uso IA. Precisamente por eso le pido pruebas.
Un cuaderno de Kenyi Martín Alcántara Fuentes reales dentro
«La firma sigue teniendo un nombre, y sigue siendo el tuyo.»EXPEDIENTE 18 · El escrito lo firmas tú, y las citas también. ↗
EI INCVMBIT PROBATIO QVI DICIT, NON QVI NEGATLA·MESA·DEL·EDITOR
Esto también va contra mis propias certezas. METR actualizó su investigación en 2026. El titular que te gustaba en 2025 no te exime de leer lo que vino después.
IEL·ARCHIVO·ABIERTO
Piezas completas, cada una con una pregunta incómoda y un criterio práctico, con los límites de lo que sabemos a la vista. Guarda las que quieras discutir.
Human in the loop es poder enseñar qué contrastó la persona, qué objetó y qué habría pasado si llega a decir que no. Ponerla al final del proceso no basta.
Los agentes de IA no se juzgan por lo que saben, sino por lo que pueden ejecutar solos, es decir, a qué entran, qué envían y quién autoriza cada salida.
Un hash es la huella de un archivo y sirve para comprobar que el contenido no ha cambiado, no para acreditar quién lo escribió ni si alguien lo revisó.
Hay prompt injection cuando un documento que traes solo para analizar acaba dando órdenes a tu asistente. Así funciona y qué controles pedir.
Cronometrar el borrador y olvidar la revisión es una manera muy elegante de engañarte con una hoja de cálculo.
Ni «lo generado con IA no es de nadie» ni «lo pedí yo, luego es mío». La titularidad depende de la aportación humana y de lo que firmaste sin leer.
La ISO 42001 certifica cómo gestionas la inteligencia artificial, no que tus respuestas sean correctas. Pide el alcance antes que el logotipo.
El registro que se activó para poder demostrar el trabajo acaba siendo una segunda copia del expediente. Con otros lectores y con otros plazos.
Pedir a otra IA que diga «correcto» no equivale a contrastar una tesis. Los agentes de IA solo revisan de verdad cuando pueden llegar a una conclusión distinta.
No necesitas saber programar para hacer preguntas que una presentación bonita no puede contestar. Diez, y la que las ordena todas.
El registro guarda que una cuenta pulsó aprobar. No guarda si alguien leyó, entendió y pudo negarse. Ahí se rompe el human in the loop.
La credibilidad de una crítica técnica depende de cómo obtuviste la evidencia, de qué decides no publicar y de cómo reconstruyes lo que pasó cuando falla algo tuyo.
La captura de datos ahorra tiempo de verdad. La clasificación con matiz solo lo muda a la revisión, y ahí es donde se decide si el ahorro existía.
La AESIA nace de un Real Decreto de 2023 y no agota el mapa. Según la materia, quien puede acabar interviniendo es la autoridad de protección de datos o el propio tribunal donde se usó la herramienta.
Cuando aparece IA en un despacho, la discusión se va detrás de la herramienta. Si dentro hay datos personales, la autoridad que puede acabar preguntando es otra. Y sus preguntas son mucho más antiguas.
Buena parte de lo que suena a dato en un pitch deck describe una intención bien redactada. La diferencia se cobra tarde, cuando la frase ya viajó hasta el contrato.
Antes de firmar se pueden comprobar bastantes cosas. Casi ninguna aparece en la tabla comparativa que llega dentro de la presentación.
Un asistente de propósito general no distingue una cita real de una inventada. El despacho tampoco, si nadie abre la fuente. La parte cara del ahorro llega siempre después.
Una opinión deontológica estadounidense lo dejó por escrito en 2024. Quien cobra por horas cobra las que trabajó. Lo difícil empieza justo después, cuando hay que decidir qué se vende entonces.
<de la> terminal.Trabajo en una pantalla negra, sin botones. Eso viene de la IA y no de la nostalgia ni de la pose, porque me deja una forma de trabajar en la que primero tengo que saber qué quiero. Y no es para todo el mundo.
Una instrucción escondida en un documento suele morir al cerrar la conversación. Si el asistente tiene memoria, puede quedarse a vivir y volver semanas después, en otro asunto.
Los estudios serios dicen dos cosas a la vez. La IA puede hacer que aprendas menos sin darte cuenta y, con un buen diseño, puede multiplicar lo que aprendes. La diferencia está en el uso, según dejes que piense por ti o te obligue a pensar más.
Si necesitas un curso para encontrar una función básica, algo no va bien. Los agentes de IA han convertido esa sospecha en una amenaza para el software lleno de botones. Pero no para todo el software.
Tres modelos contestaron las mismas 56 preguntas sacadas de un glosario jurídico, sin internet y sin el libro delante. Los fallos no aparecieron donde se esperaban, y uno de ellos venía impreso.
Un número de consulta con el formato correcto parece una fuente. Hasta que lo buscas. Y aunque exista, vincula menos de lo que parece.
El vibe coding nació para proyectos de fin de semana, aceptar lo que propone la máquina sin leerlo. Ahora quieren llevarlo a la oficina. Quien inventó la palabra ya la reserva para lo desechable, y el Consejo General de la Abogacía ha escrito cómo puede valorarse a quien firma a ciegas.
El sello dice que unos datos concretos existían en un instante. No dice quién los creó, si son originales ni si son tuyos. Y no todos los sellos pesan igual ante un juez.
Automatizar tu empresa con un solo proveedor de IA se parece más a alquilar que a modernizarte. Al principio sale barato. La dependencia y el precio llegan después.
Un tribunal gallego multó a un abogado por 24 citas falsas y señaló como remedio una IA jurídica de pago. Entre paréntesis añadió otro, que era comprobar las citas en el CENDOJ, gratis. Entre las dos opciones cabe todo lo que el sector no te cuenta.
En junio de 2025 Microsoft publicó un fallo en Microsoft 365 Copilot que, según el análisis posterior, permitía sacar información con un solo correo, sin que nadie hiciera clic. Lo que enseña tiene más de permisos que de técnica.
La IA no se juzga por lo rápido que escribe, sino por lo que tardas en fiarte de lo que escribió. La regla para saber qué tarea darle y cuál es una trampa de tokens.
Releo mi trabajo de fin de máster sobre IA y registro de propiedad intelectual como leería el informe de otro. El diagnóstico aguanta. Las promesas, bastante menos.
Todo el mundo la usa y casi nadie sabe qué es. Lo que hace es generar el siguiente trozo de texto, sin consultar ni saber nada. Y de ese malentendido salen todos los problemas.
El expediente 07 explicó qué certifica un sello de gestión y qué no, con ejemplos inventados. Este baja la misma pregunta a las webs reales del sector. De las cuatro afirmaciones examinadas, tres no enlazan documento de respaldo, una remite a su centro de confianza y hay un programa que certifica sin examen.
Cada semana aparece alguien vendiendo una IA para despachos. Hay cuarenta años de literatura sobre qué hace que una ventaja dure, y sirve para saber qué preguntar en la demo. Empezando por qué parte de lo que te enseñan puede contratar también el despacho de enfrente.
El nuevo estándar para controlar agentes de IA trae de fábrica la petición de permiso antes de actuar. Lo que te salva es usar el freno con criterio, no que exista.
El programa puede calcular la nota sin equivocarse y, aun así, partir de valoraciones discutibles. Comparé un revisor de contratos con IA publicado como proyecto de curso con el mío, para ver qué comprueba cada uno antes de entregar el resultado.
Uno de los autores del trabajo que dio origen a ChatGPT dice que la IA está entrenada para caerte bien. Lo puse a prueba con preguntas de no residentes, opiniones equivocadas y la autoridad de «mi gestor». Ningún modelo cedió. Lo que sí hicieron es otra cosa.
Dicen que la IA sube un peldaño por encima de nosotros en la escalera de la inteligencia. Mi primera respuesta fue que, si la hemos creado nosotros, los listos somos nosotros. Platón me tumbó el argumento y me dio uno mejor.
Estoy montando un simulador de impuestos donde el cliente habla como habla y dice cosas como «facturaré entre 50 y 70 mil, me mudo a Valencia en marzo, tengo dos hijos». Esa frase lleva dos cosas muy distintas dentro. La regla que sostiene el sistema decide cuál va a una regex y cuál a un modelo al que le está prohibido escribir.
La Ley 10/2025 obliga a los servicios básicos y a las grandes empresas que venden a consumidores a ofrecer la opción de hablar con una persona desde el primer momento, y a atender el 95 % de esas peticiones, de media, en menos de tres minutos, cuando acabe su plazo de adaptación. Banca y telecomunicaciones tienen reglas propias. Permite la IA y prohíbe el callejón sin salida. Las empresas que probaron a quitar a las personas ya lo están aprendiendo.
El contextual retrieval de Anthropic prometía recuperar mejor los fragmentos. Lo medí sobre mi corpus fiscal completo y el resultado fue negativo. Lo que sí movía la aguja era aburrido, y la frontera de verdad está en otro sitio. Recuperar fragmentos plausibles no es verificar pasajes.
La audité con la lista que uso en las demos ajenas y cerré una conclusión cómoda. Después le pedí a un segundo modelo, con contexto limpio, que la tumbara. Encontró lo que a mí se me había pasado.
El DLE recoge a quien teme la tecnología y la prensa ya escribe «IA-fóbicos» con guion. Aquí van dos propuestas. Iafobo sería quien rechaza la IA entera, e iaquista quien la trabaja como un oficio. La palabra más necesaria es la del que aprueba sin leer, y nadie la acuñará.
Hay quien usa la ley como argumento de venta. Recogí tres frases dichas a despachos y las comprobé contra el BOE y EUR-Lex. Una es falsa, otra se queda a medias y la tercera viaja con un número que no dice lo que parece. Cada comprobación lleva diez minutos.
La ley te deja estudiar el software que usas y quedarte con sus ideas. La ingeniería inversa creó la industria del PC. Y la IA te acaba de dar la linterna para hacerlo tú.
Mirar un equipo como se mira un agente de IA explica mucho. Llevada un paso más allá, la analogía se vuelve peligrosa. Una persona sabe cosas que no puede escribir, aprende haciendo lo aburrido, puede negarse y tiene derechos.
La guía de la AEPD sobre IA agéntica casi no habla de modelos. Habla del tratamiento y de un usuario nuevo dentro de él, que no olvida lo que lee y cuyas copias no caducan solas. Y trae un límite que se comprueba en una demo y que se llama regla de 2.
Microsoft ha dejado en mantenimiento su GraphRAG, una de las versiones más conocidas. Leídos con cuidado, los estudios que miden bien dejan al buscador corriente empatando o ganando en muchas preguntas. Y en la única prueba que he encontrado que compara el mismo grafo con y sin reglas escritas por una persona, las reglas marcaron la diferencia.
Un diagrama circula por despachos y propuestas de proveedor, con tres columnas de RAG, cada una con más piezas que la anterior. Ninguna dice de qué tamaño trocearon tus documentos. Y ahí, no en la columna, vive la diferencia medida.
Las ventanas de contexto crecen y la tentación es llenarlas. Lo que va fijo en cada petición se paga cada vez, en dinero, en tiempo y en atención. Una clase con demos contra la API me dio la cuenta, y la rehago con números de despacho.
Un prompt es la instrucción que le das a un modelo de IA, y saber escribirlo es la mitad del idioma. La otra mitad es leer, y no la respuesta, sino el camino que la máquina dice haber seguido. Con un límite que los propios laboratorios han medido, y es que ese camino no siempre es el que siguió.
MCP es el estándar con el que los asistentes de IA se conectan al correo, a los documentos o a una base de datos. En dos de los casos más citados no falló el protocolo. Falló la combinación de llaves que alguien le había dado.
Probé Notion y ClickUp. Después programé tres pantallas propias que el equipo no usaba y las borré. Ahora pregunto a un agente sobre mi base de datos de clientes. Funciona para mí, tiene defectos que conviene contar antes, y solo me fío de él porque le pido pruebas.
Pasé una mañana leyendo treinta y siete perfiles de una búsqueda de LinkedIn sobre IA para despachos. Catorce venden, uno pone un número y ninguno enseña la cuenta. La pregunta que importa es cómo se contó, más que si el ahorro es verdad.
Diecinueve endoscopistas polacos, con más de dos mil colonoscopias cada uno, empezaron a trabajar con un detector automático. Cuando volvían a hacerlo sin él, encontraban menos lesiones que antes de conocerlo. Eran expertos que ya dominaban la prueba y la hacían peor después de trabajar con ayuda.
Te lo digo el primero. Hay empleos que se van a ir, y alguno puede estar en tu despacho. Pero la historia que se repite desde 1865 es otra. Cuando algo se abarata, se pide más. La IA quita tareas, y eso puede dar más motivos para trabajar. Siempre que haya alguien esperando lo que hoy no pide porque es caro.
La captura del «+359,88 € al mes» va de grupo en grupo. Ejecuté el simulador con su propio motor, caso a caso, y lo contrasté con el BOE. La suma está bien hecha. La ley que aplica, no del todo, y los errores no empujan todos hacia el mismo lado.
Cuando un agente de IA se equivoca, quien lo construye suele mirar primero el entorno. Se pregunta qué instrucciones tenía, qué contexto le faltaba y qué podía tocar. Con las personas solemos empezar por la persona. Quizá convenga invertir el orden.
Desde agosto de 2026 el Reglamento europeo de IA obliga a informar cuando se usa IA en ciertos casos. Para un despacho, la sorpresa va en los dos sentidos, porque lo que envía a un cliente queda fuera de la etiqueta y lo que publica para todos puede quedar dentro.
Poner a una persona a pulsar «aprobar» detrás de un algoritmo no convierte la decisión en humana. Lo dicen las autoridades europeas desde 2017, y el Tribunal de Justicia ha ido más lejos, porque a veces la decisión ya está tomada antes de que llegue nadie.
Ninguna ley procesal española dice que un perito deba declarar que usó IA. Quizá no haga falta, porque basta con que alguien le pregunte en la vista por el método. Y ahí el silencio puede salir caro.
El autor de Clean Code casi no mira el código de sus agentes. Su método me obliga a revisar una idea que este cuaderno ha podido alimentar, la de que leerlo todo equivale a supervisar.
Para el Derecho europeo, un clic puede ser una firma electrónica. Eso no lo convierte en prueba de que alguien leyó el documento, ni siquiera de quién pulsó. La presunción legal solo acompaña a los servicios cualificados, y lo que presume es mucho más estrecho de lo que parece.
Un equipo de la Universidad de Minnesota grabó a profesionales resolviendo tareas de su trabajo con IA. Kolab cuenta qué propuestas aceptaron, modificaron o rechazaron. Antes de convertir ese reparto en una tasa de errores, hay que saber qué hacían y qué midieron.
Frente a Hacienda, los dos pueden invocar la confidencialidad de sus clientes, aunque con un alcance estrecho. Ante un juez penal, solo uno tiene reconocida la dispensa de declarar. Y lo que cada uno escribe en una herramienta de IA abre una pregunta que todavía nadie ha resuelto.
No hay expedientes en esta carpeta. Usa el marcador junto a una lectura para guardarla aquí.
IIEL·LABORATORIO
Herramientas pequeñas para desmontar confusiones grandes. No te dan un sello. Te dan mejores preguntas.
Un documento puede llevar instrucciones que tu ojo no ve y un asistente sí lee, como comentarios de código y caracteres invisibles. Edita el texto y compara las dos lecturas. Todo ocurre en tu navegador.
Demostración educativa con texto sintético. No ejecuta ni llama a ningún modelo. Referencia, OWASP LLM01 · Prompt injection ↗. El expediente completo ↗
Compara trabajo entregable con calidad equivalente. Los valores iniciales son un ejemplo hipotético, no datos del despacho.
Se calcula SHA-256 del texto exacto, incluidos espacios. No se envía ni conserva el texto. Esta prueba no firma ni acredita una fecha.
Referencia técnica, NIST · FIPS 180-4 ↗. Usa únicamente texto ficticio. Si el navegador no dispone de Web Crypto, se indicará en lugar de inventar un resultado.
Una firma que no apunta a una versión concreta no describe lo que salió. Cambia una cifra en la versión entregada y mira las dos cosas que pasan a la vez. El texto cambia poco y la huella cambia entera.
Ejemplo sintético. Todo se calcula en tu navegador y no se envía ni se conserva. Que dos huellas difieran demuestra que los textos no son idénticos, nada más. No dice cuál se autorizó ni quién lo hizo.
Pega el texto que ibas a mandarle a un asistente y mira qué identificadores lleva dentro. No se comprueba por parecido. Un documento o una cuenta solo se marcan si su dígito de control cuadra, y cualquiera puede inventarse uno que cuadre. Por eso los datos del ejemplo salen marcados aunque son inventados.
Todo se comprueba en tu navegador y no se envía ni se conserva. Encontrar cero identificadores no significa que el texto sea anónimo, porque un asunto puede identificar a una persona sin un solo número. Usa siempre datos inventados aquí.
Este expediente es inventado y lleva tres datos tapados con un recuadro negro, que es como se tachan muchos PDF antes de mandarlos. Pulsa mirar debajo. Luego descarga las dos versiones, ábrelas en tu visor y prueba a seleccionar y copiar lo que hay bajo cada barra.
EXPEDIENTE SINTÉTICO 000/2026
Ejemplo del laboratorio de fundadorsupremo.org. Ningún dato es real.
Todo es sintético y los dos PDF se generan en tu navegador, sin salir de él. En el mal tachado la barra se dibuja encima y el texto sigue debajo. En el saneado cambié cada dato por XXXX antes de dibujar la barra, y eso es lo único que demuestra. Un PDF real puede guardar el dato en otros sitios, como metadatos, capas, comentarios, imágenes o versiones anteriores. Esta pestaña no revisa tus archivos ni dice si están bien tachados. Si usas la terminal, pdftotext archivo.pdf - te enseña el texto que queda. Referencia de método, Free Law Project · x-ray ↗.
IIIRADAR·DE·EVIDENCIA
Las cuatro lecturas que sostienen la edición 001, con fecha de corte. No se actualiza entre ediciones. Cada ficha trae el hallazgo con su límite y una pregunta para el trabajo.
NIST ha abierto una iniciativa de estándares para agentes seguros e interoperables. No es un certificado disponible para tu despacho.
¿Quién autoriza una acción y cómo se limita su alcance?
METR advierte de sesgos en su nuevo experimento. El efecto actual de las herramientas no se puede resumir reutilizando sin contexto el resultado de 2025.
¿Estás midiendo tu operación o citando el titular que te conviene?
Una encuesta publicada en CHI relaciona la confianza en IA con el esfuerzo crítico declarado por trabajadores del conocimiento.
¿Tu interfaz invita a comprobar o solo a aceptar?
El metaanálisis observa resultados distintos según tarea y comparador. Mejorar al humano solo no equivale a superar a la mejor alternativa individual.
¿Qué mejora aporta exactamente la intervención humana?
IVDICCIONARIO
Antes de comprar el término, conviene entender qué promete. Y, sobre todo, qué no.
Una persona interviene en puntos del proceso. Lo importante es especificar qué comprueba y qué capacidad tiene de cambiar el curso del trabajo.
No es un humano de atrezo.
Abrir el expediente completo ↗Propuesta de revisión que intenta encontrar el contraargumento o hecho capaz de cambiar una tesis. Debe poder terminar en una corrección o en una duda abierta.
No es pedir a otro agente que felicite al primero.
Abrir el expediente completo ↗Manipulación del comportamiento de un modelo mediante entradas o contenido externo que procesa. Se analiza junto con los permisos y las acciones disponibles.
No es solamente un usuario escribiendo un prompt raro.
Abrir el expediente completo ↗Riesgo asociado a conceder a un agente funciones, permisos o autonomía desproporcionados para su tarea.
No es sinónimo de modelo muy inteligente.
Abrir el expediente completo ↗Resumen calculado a partir de unos datos, útil para comparar integridad frente a una referencia fiable. No acredita por sí solo autoría, fecha ni revisión.
No es una firma humana disfrazada de letras y números.
Abrir el expediente completo ↗Capacidad de reconstruir cada paso y cada decisión con evidencia suficiente para la finalidad perseguida. La etiqueta debe concretarse.
No es almacenar una montaña de texto.
Abrir el expediente completo ↗Control propuesto que vincula una operación relevante con la versión exacta que sale y con la persona que la autoriza.
No es aceptar cualquier cosa al empezar la sesión.
Abrir el expediente completo ↗Documento breve para conservar una cuestión con sus fuentes, la objeción que se planteó y qué cambió en la versión final. Es una plantilla de trabajo, no una figura certificadora.
No es rellenar un motivo a posteriori para que quede bonito.
Abrir el expediente completo ↗Información que cumple los requisitos legales de secreto, valor empresarial por ese carácter y medidas razonables de protección. Debe analizarse en cada caso.
No es monopolizar una idea que otro desarrolla por su cuenta.
Abrir el expediente completo ↗Norma para un sistema de gestión de IA. Al evaluar una certificación conviene leer el alcance literal y comprobar que sigue vigente.
No es garantía de que un dictamen concreto sea correcto.
Abrir el expediente completo ↗Trabajo adicional necesario para corregir, reconstruir o completar una salida antes de aceptarla. Conviene contarlo al medir productividad.
No es tiempo que desaparece porque la IA redactó rápido.
Abrir el expediente completo ↗Ejemplos inventados para ensayar un comportamiento sin necesitar expedientes reales. En esta web se usan para aprendizaje, no como evidencias de incidentes.
No es cambiar dos nombres y asumir que todo es anónimo.
Abrir el expediente completo ↗Palabra propuesta en esta web, no recogida en el DLE, para quien siente aversión u horror hacia la inteligencia artificial, por analogía con tecnófobo.
No es la única postura que comete errores en un expediente.
Abrir el expediente completo ↗Palabra propuesta en esta web para quien cultiva la IA como un oficio exigente y rechaza su empleo chapucero. Se define por lo que devuelve.
No es el que presume de usar IA en la demo.
Abrir el expediente completo ↗Límite mínimo recogido por la AEPD para agentes de IA. De la entrada incontrolada, el acceso a información sensible y la acción automática, como mucho dos pueden concurrir, y cada pareja admisible exige su garantía.
No es una certificación de seguridad de ningún agente.
Abrir el expediente completo ↗VIIESCRIBE·EN·EL·CUADERNO
Busco a quien firma y responde. Abogados, economistas, peritos, gente de finanzas, pensadores que trabajan con IA y no le echan la culpa a la máquina.
Sin newsletter de relleno. Cuando hay una pieza, la recibes. Cuando no, silencio.
Darme de alta por correo O por RSS ↗Una tesis incómoda, una fuente que la aguante y el límite de lo que demuestra. Firmas tú.
Cómo proponer una pieza