Guardrail per l’IA
I guardrail limitano e verificano il comportamento dell’applicazione. Istruzioni del modello e applicazione tecnica svolgono compiti diversi.
I guardrail sono regole e controlli destinati a limitare il comportamento di un’applicazione di IA. Possono verificare input, output o azioni proposte. Istruzioni del modello, controlli tecnici e approvazioni appropriate possono farne parte.
Esempio di messaggio
Un assistente ipotetico prepara una bozza email. L’invio resta subordinato a permessi verificati separatamente e all’approvazione prevista. Il giudizio del modello sull’innocuità del testo non autorizza l’invio.
Un filtro può non rilevare contenuti vietati e bloccarne di consentiti. Nemmeno un’istruzione è un limite di accesso fermo. I controlli devono essere adatti e provati con casi permessi e vietati. Il nome guardrail non dimostra da solo la sicurezza.
Fonti
Termini correlati
- Human-in-the-LoopHuman-in-the-Loop integra la partecipazione attiva di una persona in un processo automatizzato. Servono informazioni chiare e possibilità d’intervento.
- Prompt injectionLa prompt injection tenta di deviare un’applicazione di IA tramite istruzioni inserite. Anche i documenti recuperati possono contenerle.
- Principio del privilegio minimoIl privilegio minimo limita i permessi al compito necessario e al suo ambito. Il lavoro richiesto resta possibile; i poteri superflui vengono rimossi.
- Model cardLa model card documenta scopo, basi, condizioni di valutazione e limiti noti di una determinata versione di un modello di IA.
- Preparazione all’IALa preparazione all’IA riguarda i presupposti di un progetto: obiettivo, dati utilizzabili, competenze, responsabilità e gestione operativa.
- Context engineeringIl context engineering prepara le informazioni per ogni chiamata al modello: istruzioni, messaggi, fonti e stati attuali pertinenti.
Articoli sul tema
IA & automazione con ASES
Assistenti IA e processi automatizzati