Imagina una conversación larga con un chatbot. Al empezar le pides que escriba siempre en tono formal y sin emojis. Cuarenta mensajes después, el tono se ha relajado y aparece el primer emoji. No es mala educación ni un fallo puntual: es cómo funcionan estos modelos.
TL;DR: un modelo de lenguaje solo «ve» una cantidad limitada de texto a la vez, que se mide en tokens y se llama ventana de contexto. Aunque esa ventana sea enorme, la atención del modelo no se reparte por igual: rinde mejor con lo que está al principio y al final, y peor con lo que queda en medio. Esta guía explica las dos ideas en lenguaje llano y termina con seis hábitos para que no se te escapen instrucciones importantes.
Qué es un token y cuánto texto cabe en uno
Un token es el trozo en el que el modelo corta el texto antes de procesarlo. Según la documentación de OpenAI, una palabra corta y común como «the» es un solo token, mientras que «tokenization» se parte en «token» e «ization». No es lo mismo que una palabra.
