Qué es la ventana de contexto y por qué la IA se olvida a mitad de conversación

La ventana de contexto es la memoria de trabajo

Si una IA deja de seguir una instrucción que diste al principio de una charla larga, no siempre significa que haya borrado la conversación. Puede que esa instrucción ya no forme parte de la información enviada al modelo para preparar la siguiente respuesta. La ventana de contexto es la cantidad máxima de información que el modelo puede considerar en una petición. Los mensajes, archivos e instrucciones enviados ocupan ese espacio.

Google compara el contexto con la memoria a corto plazo. Puedes imaginarlo como una mesa con espacio limitado. Sobre ella están tu pregunta, algunos mensajes anteriores, los documentos adjuntos y las reglas del asistente. El modelo solo puede trabajar directamente con lo que el sistema coloca en esa mesa en ese momento.

La capacidad se mide en tokens, las unidades en las que el modelo divide texto y código. Un token puede ser una palabra, una parte de ella o un signo, por lo que no existe una conversión exacta a palabras. La guía de OpenAI sobre tokens explica esa división y nuestra pieza sobre qué son los tokens muestra por qué afecta al uso y al precio. Según el producto, la ventana también reserva espacio para el razonamiento y la respuesta.

Qué ocurre cuando la conversación ya no cabe

Más contexto permite leer conversaciones, libros o repositorios mayores, pero no crea una memoria humana infinita. Sigue siendo memoria de trabajo para una petición concreta. Además, enviar más tokens suele aumentar el coste y el tiempo de respuesta.

Cada producto decide de una forma distinta qué hacer cuando el historial supera el espacio disponible. Puede retirar mensajes antiguos, resumirlos, recuperar solo fragmentos relevantes o pedirte que abras otra conversación. Por eso una instrucción puede dejar de influir aunque todavía aparezca al desplazarte por el chat. La interfaz conserva el historial, pero el modelo no tiene por qué recibirlo completo en cada turno.

Una IA también puede perder un dato antes de llenar la ventana. Un contexto muy grande contiene distracciones, contradicciones y versiones antiguas. El estudio Lost in the Middle observó que varios modelos recuperaban peor la información situada en el centro que la colocada al principio o al final. Los sistemas han mejorado desde entonces, aunque una capacidad máxima mayor todavía no garantiza que presten la misma atención a cada parte.

Nuestra explicación de cómo funciona ChatGPT por dentro completa el mecanismo. El modelo genera una respuesta a partir de la información que recibe en ese turno, no consulta una grabación perfecta de todas las conversaciones anteriores.

Historial, memoria y contexto cumplen trabajos distintos

El historial es la conversación que la aplicación guarda y te permite volver a abrir. La ventana de contexto contiene la información enviada en una petición concreta. La memoria es una función adicional que puede conservar ciertos datos entre conversaciones. Un producto puede mostrar un historial largo, usar una ventana más pequeña y tener la memoria activada al mismo tiempo.

La ventana tampoco equivale al conocimiento permanente del modelo. Adjuntar un PDF permite responder sobre su contenido mientras el sistema lo mantenga disponible, pero no vuelve a entrenar el modelo. Los sistemas de búsqueda o RAG localizan fragmentos del documento y los colocan en el contexto cuando los necesitan.

Cómo evitar que la IA pierda lo importante

Empieza cada fase larga con un resumen operativo que incluya el objetivo, las decisiones ya cerradas, los datos que no debe inventar y el formato de salida. Escribe la petición actual al final. Si cambias de rumbo, indica también qué instrucción anterior deja de valer.

Divide los documentos grandes por tareas. Puedes pedir primero un índice y trabajar después sección por sección. Conserva una fuente maestra en un archivo, una tabla o una lista y vuelve a adjuntarla cuando la exactitud sea importante. Al terminar una sesión, pide un estado breve con las decisiones pendientes para pegarlo en la siguiente.

Cuando aparezca una contradicción, repite el dato correcto en lugar de preguntar solo si la IA lo recuerda. Pide también que identifique qué fragmento del contexto respalda la respuesta. Esa comprobación permite distinguir un olvido de una instrucción ambigua.

Una ventana mayor ayuda, pero no resuelve todo

Las ventanas largas permiten comparar más archivos, seguir proyectos de código extensos y mantener conversaciones complejas. OpenAI presentó GPT-4.1 con hasta un millón de tokens de contexto en la API, y Google documenta ventanas de tamaño parecido para algunos modelos Gemini.

La cifra máxima no explica por sí sola qué datos recupera bien el modelo, cuánto cuesta usarlo, qué espacio reserva para responder o cómo resume el producto los mensajes anteriores. Para comparar herramientas, usa una tarea parecida a la tuya y comprueba si mantiene las instrucciones importantes.

Trata el contexto como una mesa grande, no como un almacén infinito. Mantén a la vista el objetivo y las decisiones vigentes, aparta las versiones antiguas y guarda un resumen breve antes de cerrar la sesión. Para entender RAG, embeddings, modelos multimodales y agentes, consulta nuestro diccionario de inteligencia artificial.