AI-guardrails
Guardrails begrenzen en controleren AI-gedrag. Modelinstructies en technische handhaving vervullen verschillende taken.
Guardrails zijn regels en controles om AI-applicatiegedrag te begrenzen. Ze kunnen invoer, uitvoer of voorgestelde handelingen toetsen. Modelinstructies, technische controles en passende goedkeuringen kunnen erbij horen.
Voorbeeld van een bericht
Een hypothetische assistent maakt een e-mailconcept. Verzending blijft afhankelijk van apart gecontroleerde rechten en de bedoelde goedkeuring. Dat het model de tekst onschuldig vindt, opent het verzendpad niet.
Een filter kan verboden inhoud missen en toegestane inhoud blokkeren. Een promptinstructie is evenmin een vaste toegangsgrens. Controles moeten bij de taak passen en met toegestane en verboden gevallen worden getest. De naam guardrails alleen bewijst geen veiligheid.
Bronnen
Verwante begrippen
- Human-in-the-loopBij human-in-the-loop neemt een mens actief deel aan een geautomatiseerd proces. Bruikbare controle vraagt begrijpelijke informatie en ingrijpmogelijkheden.
- PromptinjectiePromptinjectie probeert een AI-applicatie met ingevoegde instructies om te leiden. Ook opgehaalde documenten kunnen die bevatten.
- Principe van minimale rechtenMinimale rechten beperken toegang tot de benodigde taak en het gegevensbereik. Noodzakelijk werk blijft mogelijk, overbodige bevoegdheden vervallen.
- ModelkaartEen modelkaart documenteert doel, grondslagen, beoordelingsvoorwaarden en bekende beperkingen van een bepaalde versie van een AI-model.
- AI-readinessAI-readiness betreft de voorwaarden voor een project: doel, bruikbare gegevens, vaardigheden, verantwoordelijkheden en dagelijks beheer.
- ContextengineeringContextengineering bereidt informatie voor elke modelaanroep voor: passende instructies, berichten, bronnen en de actuele stand van zaken.
Artikelen over dit onderwerp
AI & automatisering met ASES
AI-assistenten en geautomatiseerde processen