Por qué la IA empeora en conversaciones largas: la ventana de contexto

Empieza bien. Le explicas el proyecto, acordáis un tono, corriges un par de cosas y funciona. Dos horas después, el mismo modelo, en el mismo chat, vuelve a proponerte lo que descartasteis al principio, se inventa un dato que estaba tres mensajes más arriba y contesta con una vaguedad que no habría firmado al empezar.

No se ha estropeado, no es tu imaginación y no es que se haya «cansado». Es un comportamiento medido, sistemático y común a todos los modelos, y una vez que entiendes de dónde viene se esquiva con cuatro hábitos.

Qué es la ventana de contexto

Un modelo de lenguaje no recuerda nada entre una respuesta y la siguiente. Lo que hace es leer de nuevo, cada vez, todo lo que hay en la conversación y generar la continuación. Ese «todo» es la ventana de contexto, e incluye cuatro cosas:

• Las instrucciones del sistema, que tú no ves, y las instrucciones personalizadas que hayas configurado.
• Todos los mensajes de la conversación, los tuyos y los suyos.
• Los archivos adjuntos y lo que haya traído de una búsqueda o de una herramienta.
• Lo que está generando en este momento.

Se mide en tokens, fragmentos de palabra. En español, una regla de bolsillo razonable es que 1.000 tokens equivalen más o menos a 700 palabras. Los modelos actuales anuncian ventanas que van de unos cientos de miles de tokens hasta más de un millón en sus versiones ampliadas: un libro entero, sobre el papel.

Por qué no es memoria, aunque lo parezca

La diferencia importa porque explica los fallos raros. Cuando la conversación supera el límite, el sistema no avisa: va descartando o resumiendo lo más antiguo para hacer sitio. Tú sigues viendo tus mensajes iniciales en la pantalla, pero el modelo ya no los tiene delante. De ahí esa sensación de estar hablando con alguien que ha perdido el hilo mientras tú miras el hilo entero.

Algunos productos añaden encima una memoria entre conversaciones —recuerdan tu nombre, tu empresa, tus preferencias— y eso confunde todavía más. Son dos cosas distintas: la memoria guarda unos pocos hechos sobre ti; la ventana de contexto es lo que el modelo lee para esta respuesta concreta. Que recuerde a qué te dedicas no significa que tenga presente lo que acordasteis hace cuarenta mensajes.

El hallazgo incómodo: empeora mucho antes de llenarse

Lo esperable sería que un modelo funcionara igual de bien hasta rozar su límite y fallara ahí. No es lo que ocurre.

La investigación que popularizó el término context rot, publicada por Chroma en 2025, probó 18 modelos punteros midiendo una misma tarea a distintas longitudes de entrada, con la dificultad constante y variando solo cuánto texto había alrededor. El resultado fue consistente en los 18: la precisión cae a medida que crece la entrada, y la caída empieza mucho antes del techo anunciado. Un modelo con ventana de 200.000 tokens puede estar rindiendo claramente peor a 50.000.

Dos detalles de ese trabajo que cambian cómo conviene trabajar:

• Los distractores pesan. Texto relacionado pero irrelevante hace más daño que texto claramente ajeno. Meter tres versiones parecidas de un mismo documento es peor que meter una.
• La degradación es silenciosa. No hay mensaje de error ni aviso. El modelo sigue respondiendo con el mismo aplomo, y esa seguridad constante mientras la calidad baja es exactamente el terreno donde aparecen las alucinaciones.

Conclusión práctica: una ventana grande es un techo, no una recomendación. Que quepa un libro no significa que convenga meterlo.

Los cuatro síntomas, y qué significa cada uno

Los cuatro tienen el mismo remedio de fondo, y es el que más cuesta aplicar porque parece un paso atrás: reducir lo que hay delante del modelo.

Qué hacer: siete hábitos

1. Un hilo por tarea. El chat eterno es cómodo y caro. Abrir conversaciones nuevas no pierde nada que importe, porque lo que importa lo vas a reescribir en tres líneas.
2. Lo esencial, al principio y al final. Si tienes que pegar material largo, pon la instrucción antes y repítela en una frase después. Es lo que peor sobrevive cuando el contexto crece.
3. Pega el fragmento, no el documento. Si sabes que la respuesta está en el apartado 4, adjuntar las 200 páginas solo añade competencia por la atención.
4. Una sola versión de cada cosa. Nada de tres borradores parecidos «por si acaso». Son distractores, que es justo la categoría que más daño hace.
5. Pide el estado antes de seguir. «Resume en diez puntos las decisiones que hemos tomado» es un diagnóstico gratuito: si el resumen se deja algo importante, ya sabes que esa parte ha dejado de existir para él.
6. Reinicia al notar el primer síntoma, no al tercero. Seguir insistiendo en un hilo degradado cuesta más tiempo que empezar limpio.
7. Guarda las instrucciones fuera del chat. Lo que repites en cada conversación no debería escribirse a mano cada vez: eso es exactamente lo que resuelven los proyectos, los GPTs y los skills.

Cómo reiniciar sin perder el trabajo

El reinicio da pereza porque parece que tiras dos horas de conversación. En realidad tiras el ruido y te quedas con lo bueno, y lleva dos minutos:

1. En el hilo viejo, pide: «Resume el estado de este trabajo para retomarlo en una conversación nueva: objetivo, decisiones tomadas, restricciones que te he dado, qué queda pendiente. Sin relleno.»
2. Abre un chat nuevo y pega ese resumen, más la versión actual del entregable.
3. Añade, en una lista corta, las correcciones que más te costó conseguir. Son las primeras que se pierden.
4. Sigue desde ahí.

Notarás la mejora en la primera respuesta. El mismo modelo, con el mismo objetivo, vuelve a ser preciso porque ha dejado de leer mil mensajes para contestar a uno.

El caso especial de los documentos largos

Con contratos, informes o expedientes hay una tentación evidente: subirlo todo y preguntar. Funciona para lo literal —encontrar una cláusula, localizar una cifra— y funciona bastante mal para lo que de verdad se pide en el trabajo: comparar, sintetizar, detectar lo que falta. Eso exige tener presente todo el documento a la vez, y es justo lo que se degrada.

Tres alternativas, por orden de esfuerzo:

• Trocear por secciones y preguntar por cada una, consolidando tú al final. Aburrido y muy fiable.
• Un cuaderno de fuentes como Gemini Notebook, pensado para consultar un corpus muchas veces sin arrastrarlo en cada mensaje.
• Resumen en dos pasadas: primero extraes los puntos, luego trabajas sobre los puntos. Cómo hacerlo sin perder lo importante está en la guía de resúmenes.

Y la comprobación que no deberías saltarte nunca: si el documento importa, verifica contra el original al menos una afirmación de las que te dé. No porque el modelo mienta a propósito, sino porque el error, cuando llega, llega con el mismo tono seguro que los aciertos.