Large Language Model

Mit einem großen Sprachmodell arbeiten

Ein Large Language Model, kurz LLM, ist ein großes Sprachmodell, das Muster aus umfangreichen Trainingsdaten nutzt, um Sprache zu verarbeiten und Text zu erzeugen. Seine Eingabe und Ausgabe werden in Einheiten namens Token verarbeitet. Die Bezeichnung „groß“ ist kein Nachweis für die Eignung in Ihrem Betrieb.

In einem erfundenen Beispiel formuliert ein LLM einen Antwortentwurf auf eine Lieferanfrage. Ob der genannte Termin stimmt, muss aus einer passenden aktuellen Quelle hervorgehen. Ein überzeugender Satz verschafft dem Modell keinen Zugriff auf den tatsächlichen Auftragsstatus.

Das Modell ist außerdem nicht der gesamte Assistent. Dokumentenzugriff, Berechtigungen und auslösbare Aktionen werden durch die umgebende Anwendung festgelegt. Deshalb muss ein Vergleich neben der Textqualität auch diese Anbindung und das Verhalten bei fehlenden Informationen berücksichtigen.

Quellen

• Google: Introduction to Large Language Models