Token economy
Definizione rapida
Gestione del consumo di token considerando contesto, output, retry, strumenti, latenza, costi e lavoro necessario al risultato.
Spiegazione
La token economy guarda al costo complessivo del flusso, non soltanto al prezzo della singola chiamata. Ridurre token senza perdere fonti o precisione può migliorare sostenibilità, velocità e prevedibilità.
Esempio pratico
Un sistema recupera solo i paragrafi pertinenti, limita output ridondante e interrompe retry inutili invece di inviare ogni volta l’intero archivio.
Spiegazione tecnica
La misura può includere token input/output, costi per modello, chiamate ausiliarie, cache hit, tempo umano e percentuale di esiti da correggere.
Da non confondere con
Non significa abbreviare sempre: un contesto più breve che produce errori può costare più di una richiesta leggermente più lunga ma utile.