KI-Halluzination
Eine KI-Halluzination ist ein plausibel wirkender, aber sachlich falscher oder erfundener Inhalt. Flüssige Sprache ist kein Beleg für Richtigkeit.
Eine unbelegte Aussage als Fehler erkennen
Eine KI-Halluzination liegt vor, wenn ein Modell eine sachlich falsche oder erfundene Aussage als Information über die Wirklichkeit ausgibt. Das kann etwa eine nicht vorhandene Quelle oder eine erfundene Produkteigenschaft sein. Die Formulierung kann dabei überzeugend wirken.
In einem erfundenen Beispiel behauptet ein Supportassistent, eine Abholung sei am Sonntag möglich. Die bereitgestellte Betriebsregel erlaubt Abholungen nur von Montag bis Freitag. Die Aussage wird deshalb gegen die aktuelle Regel geprüft, statt aus ihrer sprachlichen Sicherheit auf Richtigkeit zu schließen.
Eine ausdrücklich gewünschte fiktive Geschichte ist eine andere Aufgabe. Auch eine richtige Antwort aus einer veralteten Regel kann einen Quellenfehler statt einer frei erfundenen Behauptung enthalten. Für die Korrektur muss geklärt werden, ob aktuelle Grundlagen fehlen, falsch abgerufen oder falsch verwendet wurden.
Quellen
Verwandte Begriffe
- Large Language ModelEin Large Language Model verarbeitet Sprache anhand gelernter Muster. Flüssiger Text belegt weder sachliche Richtigkeit noch Zugriff auf aktuelle Firmendaten.
- LLM-EvaluationEine LLM-Evaluation prüft Modellergebnisse anhand definierter Aufgaben und Kriterien. Ein guter Einzelfall ist noch kein belastbarer Qualitätsnachweis.
- ModellkarteEine Modellkarte dokumentiert Zweck, Grundlagen, Bewertungsbedingungen und bekannte Grenzen eines KI-Modells für eine bestimmte Version.
- KI-EinsatzbereitschaftKI-Einsatzbereitschaft beschreibt die Voraussetzungen für ein KI-Vorhaben: Ziel, nutzbare Daten, Fähigkeiten, Zuständigkeit und Betriebsablauf.
- Context EngineeringContext Engineering bereitet die Informationen für einzelne Modellaufrufe vor: passende Anweisungen, Nachrichten, Quellen und aktuelle Zustände.
- AnomalieerkennungVerfahren, die ungewöhnliche Beobachtungen im Vergleich zu einer festgelegten Referenz oder einem erlernten Muster kennzeichnen.
Beiträge zum Thema
KI & Automatisierung mit ASES
KI-Assistenten und automatisierte Abläufe