Sampling
Definizione rapida
Selezione probabilistica del token successivo tra le alternative prodotte da un modello.
Spiegazione
Il sampling introduce variabilità controllata e può rendere l’output più ricco o esplorativo. La casualità deve essere compatibile con il compito: per dati strutturati o decisioni sensibili servono limiti e verifiche più forti.
Esempio pratico
Generando una bozza creativa, il modello campiona tra più continuazioni plausibili invece di scegliere sempre la più probabile.
Spiegazione tecnica
La distribuzione dei logits viene modificata da temperatura, top-k o top-p e poi campionata; il seed può rendere una prova riproducibile in alcuni sistemi.
Da non confondere con
Non è casualità senza controllo: il campionamento opera su una distribuzione modellata e sui parametri scelti.