Temperatura
Parametro di generazione che modifica la variabilità della distribuzione usata per scegliere i token.
concetto base12Visite
5 risultati trovati
Parametro di generazione che modifica la variabilità della distribuzione usata per scegliere i token.
concetto baseGestione del consumo di token considerando contesto, output, retry, strumenti, latenza, costi e lavoro necessario al risultato.
concetto baseComponente che trasforma testo o codice nella sequenza di token utilizzata dal modello e ricostruisce il testo dall’output.
concetto baseMeccanismo con cui un modello propone una chiamata strutturata a uno strumento o a una funzione definita dall’applicazione.
concetto baseArchitettura di rete neurale basata su meccanismi di attenzione, usata in molti modelli linguistici e multimodali.
concetto base