Aprende · Cap. 03 · La ventana de contexto

Lo que puede tener en mente.

El modelo solo “ve” lo que entra en su ventana de contexto. Es grande, pero finita — y eso tiene consecuencias prácticas.

La idea

Una ventana de tamaño fijo.

Todo lo que el modelo considera para responder —tu pregunta, la conversación, los documentos que le pasaste— tiene que caber en su ventana de contexto, que se mide en tokens. Es amplia, pero no infinita: cuando se llena, lo más antiguo deja de verse. Agregá mensajes hasta llenarla, después pregúntale por el primer dato y mira qué responde:

0 / 5 en contexto

Mientras el dato sigue en la ventana, el modelo lo lee y responde bien. Cuando queda fuera, no avisa que no lo sabe: rellena con algo verosímil pero inventado — eso es una alucinación. Por eso un asistente necesita memoria, no solo contexto.

Por qué importa

Contexto no es lo mismo que memoria.

La ventana es de corto plazo: se vacía con cada conversación y se llena rápido. Para que un asistente recuerde de verdad —entre sesiones, a lo largo del tiempo— hace falta darle una memoria aparte, que decida qué guardar y qué traer de vuelta al contexto cuando se necesita. Eso lo vemos más adelante.

Su asistente recuerda lo que importa, aunque la ventana se vacíe.

Cuéntenos su caso y coordinamos una reunión — presencial o por videollamada — para mostrarle un asistente funcionando.