KI-agent
Et KI-system som velger neste steg innenfor fastsatte rammer og bruker verktøyresultater i det videre arbeidet.
Hva er en KI-agent?
En KI-agent arbeider mot et mål ved at en modell velger neste steg underveis og tar hensyn til tilbakemeldinger fra omgivelsene. Den kan bruke tilgjengelige verktøy, for eksempel søk eller en spørring i et forretningssystem. Applikasjonen fastsetter handlingsrommet. Begrepet brukes på ulike måter. Ved et konkret tilbud bør du derfor spørre hvilke handlinger systemet faktisk kan velge, hvilke tilgangsrettigheter som gjelder, og hvilke vilkår som avgjør om arbeidet er fullført eller skal overlates til en person.
I en fiktiv servicesak skal en agent forberede et svar på et teknisk kundespørsmål. Avhengig av opplysningene som finnes, kan den søke i godkjente håndbøker eller spørre etter en manglende opplysning om utstyret. Søketilgangen gir ingen rett til å lukke saken eller bestille reservedeler. Teamet planlegger kontroller med ufullstendige opplysninger, resultatløse søk og motstridende treff. En nyttig overlevering oppgir åpne spørsmål og kilder som allerede er kontrollert. Prosessen vurderer om målet er nådd ut fra resultatene; et overbevisende formulert svar alene er ikke tilstrekkelig.
Kilder
Beslektede begreper
- Agentisk arbeidsflytEn prosess med KI-støttede beslutninger og verktøyhandlinger der faste kontroller og varierende steg kan kombineres.
- Human-in-the-loopVed human-in-the-loop deltar et menneske aktivt i et automatisert forløp. Nyttig kontroll krever forståelige opplysninger og mulighet til å gripe inn.
- FunksjonskallEn språkmodell ber om en beskrevet funksjon med strukturerte parametere; den tilknyttede applikasjonen utfører den.
- LLM-evalueringLLM-evaluering tester modellutdata mot definerte oppgaver og kriterier. Ett godt enkelttilfelle dokumenterer ikke generell kvalitet.
- Kontrollmekanismer for KIGuardrails begrenser og kontrollerer KI-atferd. Modellinstrukser og teknisk håndheving har ulike oppgaver.
- PromptinjeksjonPromptinjeksjon forsøker å styre en KI-applikasjon med innskutte instrukser. Hentede dokumenter kan også inneholde dem.
Artikler om temaet
KI og automatisering med ASES
KI-assistenter og automatiserte prosesser