Tu agente no necesita saberlo todo. Necesita saber qué olvidar.

Dentro del expediente

Abro una sesión con un agente de IA y, antes de escribir la primera frase, ya he gastado. Las instrucciones, las herramientas conectadas y la memoria del despacho viajan con cada petición. El modelo no las recuerda de la anterior. Se las vuelvo a mandar, y las vuelvo a pagar.

Esto lo tenía entendido a medias hasta que vi una clase del canal Gentleman Programming sobre la ventana de contexto Fuente primaria ↗. Es una clase para programadores, grabada en directo, con demostraciones hechas contra la API. Yo no programo agentes para vivir. Dirijo un despacho fiscal que los usa a diario, y lo que saqué de ahí es una lección más de gestión que de ingeniería. La cuento con mis palabras y mis cuentas, y marco qué cifras salen de su demo y cuáles son mías.

El contexto es un presupuesto

La ventana de contexto es todo lo que el modelo tiene delante al responder, medido en tokens, que son trozos de palabra. Los fabricantes compiten por anunciarla más grande y ya se habla del millón. El ponente usa la imagen de la mesa de un carpintero, y es buena. Que la mesa sea grande no te obliga a llenarla. En ella compiten las instrucciones, las definiciones de herramientas, los documentos, el historial de la conversación y también la respuesta, que necesita sitio para salir.

Esa mesa se paga en tres monedas. La primera es dinero, porque cada token de entrada se cobra lo use el modelo o no. La segunda es tiempo, porque el modelo lee todo antes de escribir la primera palabra, y quien espera mira una pantalla quieta. La tercera es atención, y es la que casi nadie mira. Más texto no significa mejor respuesta. Mucho texto es ruido.

La cuenta del dinero conviene hacerla una vez con números redondos. Supón 5.000 tokens fijos por petición, entre instrucciones y herramientas, y 10.000 peticiones al día. Son 50 millones de tokens diarios. A un precio ilustrativo de 3 dólares por millón de tokens de entrada, salen 150 dólares al día y unos 4.500 al mes de treinta días. Todo eso antes de que nadie haya pedido nada útil. Cambia el precio por el de tu proveedor y la cuenta sigue en pie.

Un despacho no hace 10.000 peticiones al día, pero la escala no cambia la lógica. Con un caso inventado y precios igual de ilustrativos, un agente con 20.000 tokens fijos, algo fácil de alcanzar con varios conectores activados, y 400 peticiones al día entre todo el equipo, mueve 8 millones de tokens diarios. A 3 dólares el millón son 24 dólares al día, unos 530 al mes de 22 días laborables. No arruina a nadie. Pero es un coste fijo que nadie decidió, y crece solo cada vez que alguien conecta algo más.

Las herramientas pesan más que tus instrucciones

La primera demostración del vídeo me desmontó una intuición. Era un asistente técnico con unas instrucciones normales, de unos 880 caracteres, y cuatro herramientas conectadas, leer archivos, escribir archivos, ejecutar órdenes y buscar en la web. En la demo del vídeo, las instrucciones ocupaban 355 tokens y las definiciones de las cuatro herramientas, 1.183. Más del triple, y el usuario todavía no había escrito nada.

Tiene lógica cuando lo piensas. Cada herramienta lleva su descripción, sus parámetros y sus reglas de uso, y el modelo tiene que leerlas en cada petición para saber que existen. Conectar el correo, el gestor documental, la contabilidad y el calendario por si acaso es poner cuatro manuales encima de la mesa cada vez que preguntas la hora. En el directo, un espectador comentaba que un solo conector le subía el contexto en unos 35.000 tokens al cargarse, y la respuesta del ponente fue la obvia, desactivarlo hasta que haga falta. Es el comentario de un espectador, no una medición, y lo dejo como tal.

Me aplico la regla antes de pedírsela a nadie. Cada servicio que se queda encendido sin necesidad es una cuota fija que se paga en cada petición.

Lo del medio se pierde

Hay un fenómeno con nombre y con estudio detrás. Un equipo de Stanford y otras instituciones midió, en un estudio difundido en 2023 y publicado en 2024, cómo usan los modelos la información según dónde esté colocada en un contexto largo. El rendimiento era mejor cuando el dato relevante estaba al principio o al final, y caía de forma notable cuando estaba en medio, también en modelos anunciados para contextos largos Fuente primaria ↗. Lo llamaron lost in the middle, perdido en el medio.

El vídeo intenta reproducirlo con un catálogo inventado de 221 fichas de plantas y una ficha clave escondida, primero al final y luego en el medio. Y aquí viene lo honrado. En su demo el modelo acertó en las dos posiciones. El ponente lo reconoce, no se rompe siempre, lo que baja es la fiabilidad. Me gusta que lo enseñe así, porque es la diferencia entre una demostración y una prueba. Una ejecución que sale bien no demuestra que el riesgo no exista. Para medirlo está el estudio.

Traducido a un despacho, con un caso sintético que no corresponde a ningún cliente. Un propietario no residente con un piso en la costa. Tres horas de sesión con el agente. Al principio, las instrucciones y los datos del inmueble. En medio, entre veinte correos pegados, uno del cliente que dice que el piso estuvo alquilado de marzo a octubre. Al final, la petición «prepara el cálculo del año». Ese correo del medio lo cambia todo, porque decide qué meses van como renta imputada y cuáles como alquiler. Está en la conversación, lo he pagado, y es justo lo que el modelo tiene más papeletas de pasar por alto.

El control no es tecnológico. Los hechos que deciden van en los bordes. Una hoja de hechos al principio de la sesión, con lo que cambia el resultado, y una frase al final que lo repita antes de pedir el cálculo. Si la sesión se ha compactado, y los agentes resumen solos cuando la mesa se llena, con más motivo. El resumen conserva que se decidió algo y a menudo pierde por qué.

Lo fijo delante, lo variable detrás

La caché de prompts es la otra mitad de la cuenta. Los proveedores guardan durante un tiempo el principio de un prompt que se repite, y si la siguiente petición empieza exactamente igual, esa parte se cobra mucho más barata. En la documentación de Anthropic, con la tarifa estándar, leer de caché cuesta el 10% del precio de entrada normal, y escribir en ella con la duración de cinco minutos, un 25% más que la entrada normal Fuente primaria ↗. La condición es que el principio sea idéntico. Cambia algo al comienzo y todo lo que viene detrás se vuelve a cobrar entero.

La demo del vídeo lo enseña con una fecha y un identificador de sesión. Puestos al principio del prompt, cada petición invalidaba la caché y se pagaba todo de nuevo. Puestos al final, la segunda petición leía de caché casi todo el prompt, en torno al 99% según el ponente. Con el mismo contenido y distinto orden, la factura cambia.

En mi caso inventado de antes, si los 20.000 tokens fijos se leen de caché, esa parte baja de 24 a unos 2,40 dólares diarios, más lo que cuesten las escrituras cada vez que la caché caduca. Y hay un segundo premio, porque lo que va al principio es también lo que el modelo atiende mejor. La regla cabe en una línea. Delante van las instrucciones, las herramientas, los criterios y los ejemplos. Detrás, la fecha, el asunto del día y la pregunta.

Memoria y contexto son cosas distintas

Aquí está la confusión que más encuentro cuando hablo de esto con otros profesionales. El contexto es la mesa de hoy, y se vacía al terminar la sesión. El modelo no recuerda nada de una llamada a otra. La memoria es otra cosa, un cuaderno que se escribe fuera del modelo, se lee al empezar y hay que podar. Si no se poda, vuelve entero a la mesa en cada sesión y paga alquiler.

La demo del vídeo compara una memoria inflada de 428 líneas con la misma memoria podada a 19, unas 26 veces más pequeña medida en tokens. La inflada estaba llena de entradas como «corrimos los tests, dieron verde», repetidas con distinta fecha. Ocupaba sitio, costaba cada día y, peor, enterraba en el medio las pocas líneas que importaban.

Lo que merece estar en el cuaderno de un despacho se parece mucho a lo que el ponente lista para un equipo de software. Las decisiones con su porqué. Los criterios de la casa. Los caminos que se probaron y fallaron, para no repetirlos. Las restricciones, lo que nunca se hace. Y el vocabulario propio. Lo que no merece estar es el estado del día, «el escrito ya está redactado» o «la bandeja quedó vacía», porque mañana es falso y el agente lo leerá como cierto. En un despacho hay además algo que no entra nunca, los datos personales que no hacen falta. Una memoria no es un archivo de expedientes.

El despacho tiene su propia memoria compartida entre agentes, y la lección que me deja este vídeo es sencilla. Una memoria mal hecha es peor que ninguna. Sin memoria, sabes que el agente no se acuerda y se lo explicas. Con una memoria inflada, crees que lo sabe, y el agente rellena el hueco con lo primero que parece encajar.

Buscar barato, profundizar caro

La mejor estrategia no es resumir cuando la mesa se desborda, ni cortar lo más antiguo, que suele ser justo lo que explica por qué se hace cada cosa. Es no llenarla. Un índice de dónde está cada cosa en lugar de todos los documentos cargados. Una búsqueda rápida que devuelve tres candidatos y, solo después, la lectura a fondo de esos tres. Y cuando la tarea es grande, un agente auxiliar con la mesa limpia que investiga y devuelve la conclusión, no el montón de papeles. Es lo que haría cualquiera con un archivo físico. Nadie saca todas las carpetas del armario para buscar una factura.

Un apunte de interés ajeno. El ponente presenta sus propias herramientas como solución a varios de estos problemas. Eso no invalida los conceptos, que se sostienen solos y, en el caso del medio, tienen estudio detrás. Solo significa que la herramienta concreta hay que evaluarla como cualquier otra compra.

El control para esta semana. Abre tu agente sin escribir nada y mira cuánto contexto ocupa ya. La mayoría de herramientas lo enseñan. Separa instrucciones, herramientas y memoria. Multiplica el total por las peticiones de un día normal y por el precio de entrada de tu proveedor. Después apaga un conector que no hayas usado esta semana, poda de la memoria todo lo que sea estado del día y vuelve a medir. Si la cifra no baja, has aprendido algo del sistema. Si baja, has aprendido algo de tu costumbre.

Declaración de interés. Uso a diario agentes de IA de varios proveedores, entre ellos Anthropic, cuya documentación cito, y le pago sus servicios como cliente. No tengo otra relación comercial con Anthropic ni con el canal Gentleman Programming. Las cifras de las demostraciones son del vídeo, consultado el 22 de septiembre de 2026, y no las he reproducido. Las cuentas a 3 dólares por millón son ilustrativas y el caso fiscal es sintético.

Una ventana más grande no te da una estrategia, solo más mesa. Tu agente no necesita saberlo todo, necesita tener delante lo que decide y saber dónde buscar el resto.

Lo que me preguntan cuando cierro el portátil.

¿Qué es la ventana de contexto de un modelo de IA?

Es la cantidad de texto, medida en tokens, que el modelo puede tener delante a la vez al generar una respuesta. Dentro caben las instrucciones, las definiciones de herramientas, los documentos, el historial de la conversación y la propia respuesta. Que sea grande no obliga a llenarla, y todo lo que entra se paga en cada petición.

¿Por qué un agente de IA gasta tokens antes de que escribas nada?

Porque el modelo no recuerda las peticiones anteriores. Las instrucciones, las herramientas conectadas y la memoria que se carga al empezar se envían de nuevo cada vez. La caché de prompts abarata esa parte fija siempre que el principio del prompt sea idéntico entre peticiones.

¿Qué diferencia hay entre la memoria y el contexto de un agente?

El contexto es lo que el modelo tiene delante en esta sesión y desaparece al terminar. La memoria es un registro que se escribe fuera del modelo, se lee al empezar la sesión siguiente y hay que podar. Si no se poda, vuelve entera al contexto en cada sesión y ocupa sitio, cuesta dinero y entierra lo importante.

El expediente detrás del artículo.

Ventana de contexto en inteligencia artificial: por qué llenarla sale mal ↗Gentleman Programming · clase en directo publicada en YouTube el 16 de septiembre, consultada el 22 de septiembre; el ponente presenta herramientas propias · 2026
Clase en vídeoLost in the Middle: How Language Models Use Long Contexts ↗Liu, Lin, Hewitt, Paranjape, Bevilacqua, Petroni y Liang · Transactions of the Association for Computational Linguistics, vol. 12 (2024); preprint arXiv 2307.03172 de 2023 · 2024
Artículo académicoPrompt caching ↗Anthropic · documentación de la API, consultada el 22 de septiembre; multiplicadores de precio de escritura y lectura de caché · 2026
Documentación del fabricante

Fuentes consultadas hasta el 1 de octubre de 2026. Las recomendaciones y ejemplos son elaboración editorial y no se atribuyen íntegramente a estas fuentes. Comprueba versión y ámbito antes de aplicar una norma.

Divulgación general. Ninguna herramienta de esta web certifica la revisión, seguridad o conformidad de un proceso.