Kontextfenster
Das Kontextfenster begrenzt, wie viele Token ein Sprachmodell in einem Verarbeitungsschritt berücksichtigen kann. Es ist kein dauerhaftes Wissensarchiv.
Verfügbaren Kontext von gespeichertem Wissen unterscheiden
Das Kontextfenster beschreibt den begrenzten Umfang an Token, den ein Sprachmodell in einem Verarbeitungsschritt berücksichtigen kann. Dazu können Anweisungen, bisherige Nachrichten und beigefügte Dokumentauszüge gehören. Die jeweilige Anwendung entscheidet mit, welche Inhalte tatsächlich hineingelangen.
In einem erfundenen Beispiel soll ein Assistent eine aktuelle Lieferregel mit einer älteren vergleichen. Wird nur die alte Fassung übergeben, hilft ein größeres Kontextfenster allein nicht. Es vergrößert die mögliche Eingabe, beschafft aber die fehlende aktuelle Quelle nicht.
Das Kontextfenster ist auch kein dauerhaftes Gedächtnis aller Unternehmensdokumente. Eine Suche oder Dokumentenanbindung kann relevante Inhalte für eine Anfrage bereitstellen. Selbst wenn ein langer Text hineinpasst, muss geprüft werden, ob die entscheidenden Angaben im Ergebnis korrekt verwendet wurden.
Quellen
Verwandte Begriffe
- Token im SprachmodellToken sind Verarbeitungseinheiten eines Sprachmodells. Sie entsprechen nicht zuverlässig ganzen Wörtern und sind von Design-Tokens zu unterscheiden.
- Large Language ModelEin Large Language Model verarbeitet Sprache anhand gelernter Muster. Flüssiger Text belegt weder sachliche Richtigkeit noch Zugriff auf aktuelle Firmendaten.
- PromptEin Prompt ist die Eingabe an ein generatives Modell. Eine klare Aufgabenbeschreibung hilft, ersetzt aber weder Datenzugriff noch Berechtigungen.
- ModellkarteEine Modellkarte dokumentiert Zweck, Grundlagen, Bewertungsbedingungen und bekannte Grenzen eines KI-Modells für eine bestimmte Version.
- KI-EinsatzbereitschaftKI-Einsatzbereitschaft beschreibt die Voraussetzungen für ein KI-Vorhaben: Ziel, nutzbare Daten, Fähigkeiten, Zuständigkeit und Betriebsablauf.
- Context EngineeringContext Engineering bereitet die Informationen für einzelne Modellaufrufe vor: passende Anweisungen, Nachrichten, Quellen und aktuelle Zustände.
Beiträge zum Thema
KI & Automatisierung mit ASES
KI-Assistenten und automatisierte Abläufe