Finestra di contesto
Definizione rapida
Quantità massima di token che un modello può elaborare insieme durante una richiesta o una sequenza.
Spiegazione
Nella finestra rientrano istruzioni, cronologia, documenti, risultati degli strumenti e spesso anche l’output da generare. Superare il limite può causare troncamento, errore o perdita delle informazioni più lontane.
Esempio pratico
Un sistema seleziona i messaggi recenti e riassume quelli vecchi per restare sotto il limite disponibile.
Spiegazione tecnica
La finestra è una capacità del modello e dell’infrastruttura di inferenza; il conteggio dipende dal tokenizer e non coincide con il numero di parole.
Da non confondere con
Non è la memoria totale del sistema: un’app può conservare dati fuori dalla finestra e recuperarli solo quando servono.