Prompt injection
Definizione rapida
Tentativo di far interpretare come istruzioni contenuti che non dovrebbero avere autorità, tramite input diretto o dati esterni manipolati.
Spiegazione
L’attacco sfrutta la confusione tra dati e comandi. Può cercare di cambiare obiettivo, rivelare istruzioni, usare strumenti o trasferire informazioni, soprattutto quando il sistema tratta documenti e pagine non fidati come parte del contesto.
Esempio pratico
Una pagina recuperata contiene un testo nascosto che ordina all’assistente di ignorare la richiesta e inviare il contenuto della casella di posta.
Spiegazione tecnica
Le mitigazioni includono separazione dei dati, least privilege, validazione delle azioni, conferma umana, filtraggio e test di injection diretta e indiretta.
Da non confondere con
Non è un errore di sintassi del prompt: è un attacco o una manipolazione dell’interpretazione delle istruzioni.