Quantizzazione
Definizione rapida
Tecnica che riduce la precisione numerica con cui vengono rappresentati pesi o attivazioni di un modello.
Spiegazione
La quantizzazione può diminuire memoria e costo computazionale e permettere l’esecuzione su hardware più limitato. La riduzione può però introdurre perdita di accuratezza, quindi va misurata sul compito reale.
Esempio pratico
Un modello passa da pesi a 16 bit a una rappresentazione a 8 o 4 bit e viene rivalutato sul golden set.
Spiegazione tecnica
La trasformazione mappa valori ad alta precisione su un insieme più piccolo, con scale e offset; metodi e componenti esclusi dipendono dalla tecnica.
Da non confondere con
Non è compressione generica di un file: modifica la rappresentazione numerica usata dal calcolo del modello.