Agency eccessiva
Definizione rapida
Condizione in cui un sistema AI possiede autonomia, strumenti o permessi superiori a quelli necessari per il compito.
Spiegazione
L’eccesso nasce quando un modello può eseguire azioni irreversibili, accedere a dati non pertinenti o concatenare strumenti senza controlli proporzionati. Un output inatteso può così trasformarsi in un danno operativo.
Esempio pratico
Un agente incaricato di classificare documenti dispone anche del permesso di cancellarli e inviarli all’esterno: il potere eccedente non serve allo scopo dichiarato.
Spiegazione tecnica
La riduzione del rischio richiede minimo privilegio, strumenti separati per capacità, validazione degli argomenti, limiti di frequenza e approvazione umana per gli effetti sensibili.
Da non confondere con
Non è sinonimo di automazione: un flusso automatico può avere capacità strettamente limitate, mentre l’agency eccessiva riguarda l’ampiezza dei poteri.