Ventana de contexto

Una ventana de contexto es cuánta entrada tokenizada (y a menudo salida) puede considerar un modelo en una petición.

Todo lo que hay en la ventana — instrucciones de sistema, documentos recuperados, historial de chat, resultados de herramientas — compite por el espacio. Las ventanas más grandes ayudan con documentos largos; no garantizan un mejor razonamiento.