Über den Versand von KI-Antworten gesondert entscheiden
Ein brauchbarer Antwortentwurf kann Arbeit erleichtern. Automatischer Versand braucht eine eigene Begründung und einen Ablauf für Prüfung, Änderung und Fehler.
Ein KI-Assistent kann dem Serviceteam einen Antwortentwurf liefern, während die Entscheidung über den Versand beim Team bleibt. Schon diese Funktion kann nützlich sein. Ob zusätzlich automatisch gesendet werden soll, hängt von der Art der Nachricht, ihrer Grundlage und den Folgen einer falschen Aussage ab.
Unterschiedliche Nachrichten brauchen unterschiedliche Abläufe
Eine feste Eingangsbestätigung kann sich auf einen bestätigten Speichervorgang beziehen. Dafür lässt sich ein enger Ablauf mit einer geprüften Vorlage gestalten. Eine frei formulierte technische Lösung enthält dagegen fachliche Aussagen, die zur aktuellen Situation passen müssen.
Im fiktiven Beispiel meldet eine Kundin einen fehlschlagenden Datenexport. Der interne Bearbeitungsstand lautet: Untersuchung offen, Ursache nicht bestätigt. Ein möglicher Antwortentwurf sagt dennoch: „Der Exportfehler wurde behoben.“ Der Satz ist verständlich, aber durch den Bearbeitungsstand nicht belegt.
Ein Prüfplatz muss diese Abweichung erkennbar machen. Mitarbeitende brauchen die Kundenfrage, den aktuellen Stand und den Entwurf zusammen. Ein einzelner Knopf zum Bestätigen ohne diese Grundlage unterstützt die fachliche Prüfung nur begrenzt.
Eine Freigabe braucht einen bestimmten Inhalt
Die Microsoft-Leitlinien für Mensch-KI-Interaktion empfehlen, unerwünschte Vorschläge leicht verwerfen und falsche Ergebnisse effizient korrigieren zu können. Im Beispiel sollte das Team den unbelegten Erledigungssatz direkt ändern können. Eine Ablehnung muss den Entwurf im internen Arbeitsvorrat halten, ohne versehentlich eine Nachricht auszulösen.
Die Freigabe bezieht sich auf den geprüften Inhalt und den vorgesehenen Empfänger. Werden Text oder Empfänger danach geändert, muss der Ablauf die Freigabe erneut klären. Außerdem braucht der Versanddienst eigene Berechtigungsprüfungen. OWASP empfiehlt eine menschliche Zustimmung vor folgenreichen Aktionen und die Durchsetzung von Zugriffsregeln im ausführenden System. Ein Freigabeknopf ersetzt diese Regeln nicht.
Den Nutzen des gewählten Umfangs prüfen
Eine Pflicht zur Einzelprüfung jeder automatischen Nachricht folgt daraus nicht. Für eng begrenzte, belegte Auskünfte kann ein geprüfter automatischer Ablauf passend sein. Wo individuelle Diagnose oder eine folgenreiche Zusage entsteht, kann der Entwurf mit anschließender Bearbeitung der geeignete Umfang sein.
Bewerten Sie deshalb, ob Vorschläge tatsächlich verwendbar sind, wie gut sie sich korrigieren lassen und ob der Übergang zum Versand eindeutig bleibt. Automatisierung kann zunächst beim intern bearbeitbaren Entwurf enden. Eine Erweiterung zum selbstständigen Versand braucht eigene passende Prüffälle und eine verantwortete Entscheidung.
Quellen
Geschrieben von
- Matthias BeckerRedakteur für KI und AutomatisierungMatthias Becker betreut bei ASES die Beiträge zu künstlicher Intelligenz und Automatisierung. Er untersucht, wie Unternehmen KI in ihren Arbeitsabläufen einsetzen können und wo die Grenzen der jeweiligen Anwendungen liegen.
Weiterlesen
Alle Beiträge
KI & Automatisierung mit ASES
KI-Assistenten und automatisierte Abläufe