Temperatura

Definizione rapida

Parametro di generazione che modifica la variabilità della distribuzione usata per scegliere i token.

Spiegazione

Valori più bassi rendono la scelta più concentrata sulle alternative probabili; valori più alti aumentano esplorazione e variabilità. Il parametro non rende corretto un modello né corregge una fonte sbagliata.

Esempio pratico

Per una risposta con schema rigido si usa una temperatura contenuta, mentre una bozza creativa può tollerare più variazione.

Spiegazione tecnica

La temperatura riscalibra i logits prima della softmax; il suo effetto dipende anche da top-k, top-p, seed e distribuzione originale.

Da non confondere con

Non è la creatività del modello in senso assoluto e non è una proprietà fissa dei pesi.