Fenêtre de contexte

Une fenêtre de contexte est la quantité d'entrée tokenisée (et souvent de sortie) qu'un modèle peut prendre en compte dans une requête.

Tout ce qui est dans la fenêtre — instructions système, documents récupérés, historique de chat, résultats d'outils — se dispute l'espace. Les fenêtres plus grandes aident pour les longs documents ; elles ne garantissent pas un meilleur raisonnement.