Allucinazione
Definizione rapida
Risposta generata da un modello che appare plausibile ma contiene informazioni inventate, errate o non sostenute dalle fonti disponibili.
Spiegazione
Il fenomeno può riguardare fatti, citazioni, nomi, calcoli o collegamenti tra informazioni. Una formulazione sicura e fluida non dimostra che il contenuto sia vero: servono verifica, fonti e limiti di confidenza adeguati al contesto.
Esempio pratico
Un modello attribuisce a una norma un articolo inesistente; l’errore resta un’allucinazione anche se il testo ha tono autorevole.
Spiegazione tecnica
Il rischio si riduce con dati recuperati da fonti affidabili, vincoli di output, controlli automatici, valutazioni su casi noti e revisione umana quando la decisione è rilevante.
Da non confondere con
Non è la stessa cosa di un errore di battitura: l’allucinazione riguarda la produzione di contenuto non adeguatamente fondato.