Finestra di contesto

Una finestra di contesto è quanto input tokenizzato (e spesso output) un modello può considerare in una richiesta.

Tutto ciò che è nella finestra — istruzioni di sistema, documenti recuperati, cronologia chat, risultati degli strumenti — compete per lo spazio. Finestre più grandi aiutano con documenti lunghi; non garantiscono un ragionamento migliore.