Prompt engineering
Progettazione e miglioramento delle istruzioni fornite a un modello per orientarne comportamento e risultato.
concetto base14Visite
Tutti i termini
51 risultati trovati
Quantizzazione
Tecnica che riduce la precisione numerica con cui vengono rappresentati pesi o attivazioni di un modello.
concetto base14Visite
RAG (Retrieval-Augmented Generation)
Architettura che recupera documenti o frammenti pertinenti e li inserisce nel contesto prima della generazione.
concetto base16Visite
Routing
Scelta automatica del modello, percorso o strumento più adatto in base a compito, rischio, costo o disponibilità.
concetto base12Visite
Sampling
Selezione probabilistica del token successivo tra le alternative prodotte da un modello.
concetto base15Visite
Serving
Infrastruttura e processo con cui un modello viene reso disponibile alle applicazioni che devono eseguirlo.
concetto base12Visite
Temperatura
Parametro di generazione che modifica la variabilità della distribuzione usata per scegliere i token.
concetto base13Visite
Token economy
Gestione del consumo di token considerando contesto, output, retry, strumenti, latenza, costi e lavoro necessario al risultato.
concetto base12Visite
Tokenizer
Componente che trasforma testo o codice nella sequenza di token utilizzata dal modello e ricostruisce il testo dall’output.
concetto base11Visite
Tool calling / Function calling
Meccanismo con cui un modello propone una chiamata strutturata a uno strumento o a una funzione definita dall’applicazione.
concetto base11Visite
Transformer
Architettura di rete neurale basata su meccanismi di attenzione, usata in molti modelli linguistici e multimodali.
concetto base11Visite