AI-guardrails
Guardrails begrænser og kontrollerer AI-adfærd. Modelinstruktioner og teknisk håndhævelse har forskellige opgaver.
Guardrails er regler og kontroller, der skal begrænse en AI-applikations adfærd. De kan undersøge input, output eller foreslåede handlinger. Modelinstruktioner, tekniske kontroller og passende godkendelser kan indgå.
Eksempel med en besked
En hypotetisk assistent skriver et e-mailudkast. Afsendelse kræver stadig særskilt kontrolleret rettighed og den planlagte godkendelse. Modellens vurdering af teksten som ufarlig åbner ikke afsendelsesvejen.
Et filter kan overse forbudt indhold og blokere tilladt indhold. En promptinstruktion er heller ikke en fast adgangsgrænse. Kontroller skal passe til opgaven og testes med tilladte og forbudte tilfælde. Navnet guardrails alene dokumenterer ikke sikkerhed.
Kilder
Relaterede begreber
- Human-in-the-loopVed human-in-the-loop deltager et menneske aktivt i et automatiseret forløb. Brugbar kontrol kræver forståelige oplysninger og mulighed for at gribe ind.
- PromptinjektionPromptinjektion forsøger at omdirigere en AI-applikation med indskudte instruktioner. Hentede dokumenter kan også indeholde dem.
- Princippet om færrest mulige rettighederPrincippet begrænser rettigheder til den nødvendige opgave og dens dataområde. Nødvendigt arbejde er muligt; overflødige beføjelser fjernes.
- ModelkortEt modelkort dokumenterer formål, grundlag, vurderingsbetingelser og kendte begrænsninger for en bestemt version af en AI-model.
- AI-parathedAI-parathed handler om et projekts forudsætninger: mål, brugbare data, kompetencer, ansvar og et fungerende driftsforløb.
- Context engineeringContext engineering forbereder information til hvert modelkald: relevante instruktioner, beskeder, kilder og aktuelle tilstande.
Artikler om emnet
AI & automatisering med ASES
AI-assistenter og automatiserede arbejdsgange