Guardrail
Definizione rapida
Controllo o limite progettato per impedire a un sistema di superare confini operativi, legali o di sicurezza.
Spiegazione
Un guardrail può agire sull’input, sul recupero, sul comportamento dello strumento o sull’output. È efficace solo se viene applicato nel punto che può realmente bloccare l’effetto e se produce evidenze leggibili.
Esempio pratico
Un assistente rifiuta di eseguire un comando distruttivo senza conferma e impedisce l’invio di dati a destinatari non autorizzati.
Spiegazione tecnica
I guardrail includono policy, validatori, allowlist, sandbox, limiti di frequenza, approvazioni e monitoraggio; non devono affidarsi soltanto a istruzioni testuali.
Da non confondere con
Non è una garanzia assoluta: un guardrail è un controllo di riduzione del rischio che deve essere testato e aggiornato.