KI-Agent
Ein KI-System, das im gesetzten Rahmen nächste Schritte auswählt und Werkzeugergebnisse für die weitere Bearbeitung nutzt.
Was ist ein KI-Agent?
Ein KI-Agent bearbeitet ein Ziel, indem ein Modell während des Ablaufs nächste Schritte auswählt und Rückmeldungen aus seiner Umgebung berücksichtigt. Dafür kann es bereitgestellte Werkzeuge nutzen, etwa eine Suche oder eine Abfrage im Geschäftssystem. Wie viel Entscheidungsspielraum besteht, legt die Anwendung fest. Der Begriff wird unterschiedlich verwendet; bei einem konkreten Angebot sollten Sie deshalb nach den tatsächlich wählbaren Aktionen, den Zugriffsrechten und den Bedingungen für Abschluss oder Übergabe fragen.
In einem erfundenen Servicefall soll ein Agent eine Antwort auf eine technische Kundenfrage vorbereiten. Je nach vorliegenden Angaben darf er in freigegebenen Handbüchern suchen oder nach einer fehlenden Geräteangabe fragen. Die Suchberechtigung erlaubt ihm weder, den Servicefall zu schließen, noch Ersatzteile zu bestellen. Das Team plant Prüfungen mit unvollständigen Angaben, erfolgloser Suche und widersprüchlichen Treffern. Eine geeignete Übergabe nennt offene Fragen und bereits geprüfte Quellen. Ob das Ziel erreicht wurde, beurteilt der Ablauf anhand der Ergebnisse; eine überzeugend formulierte Antwort allein genügt dafür nicht.
Quellen
Verwandte Begriffe
- Agentischer WorkflowEin Arbeitsablauf mit KI-gestützten Entscheidungen und Werkzeugaktionen; feste Prüfschritte und variable Bearbeitung können zusammenwirken.
- Human-in-the-LoopHuman-in-the-Loop bindet Menschen aktiv in einen automatisierten Ablauf ein. Wirksame Prüfung braucht verständliche Informationen und Handlungsmöglichkeiten.
- Function CallingEin Sprachmodell fordert eine beschriebene Funktion mit strukturierten Parametern an; die Ausführung übernimmt die angebundene Anwendung.
- LLM-EvaluationEine LLM-Evaluation prüft Modellergebnisse anhand definierter Aufgaben und Kriterien. Ein guter Einzelfall ist noch kein belastbarer Qualitätsnachweis.
- Guardrails für KIGuardrails begrenzen und prüfen das Verhalten einer KI-Anwendung. Modellanweisungen und technische Durchsetzung haben unterschiedliche Aufgaben.
- Prompt InjectionPrompt Injection versucht, eine KI-Anwendung durch eingeschleuste Anweisungen umzulenken. Auch abgerufene Dokumente können solche Texte enthalten.
Beiträge zum Thema
KI & Automatisierung mit ASES
KI-Assistenten und automatisierte Abläufe