Modell-Routing

Welches Modell soll die Anfrage bearbeiten?

Modell-Routing wählt für eine Anfrage ein Modell aus einem festgelegten erlaubten Bestand. Die Entscheidung kann etwa von Aufgabenart, benötigten Fähigkeiten und Vorgaben zu Antwortdauer oder Betriebskosten abhängen. Dafür lassen sich feste Regeln oder ein eigenes Auswahlmodell verwenden. Anschließend verarbeitet das gewählte Modell die Anfrage. Die Weiterleitung allein trainiert dieses Modell nicht. Welche Kandidaten für die Daten und die Aufgabe verwendet werden dürfen, muss vor der Auswahl feststehen.

In einem fiktiven Vorhaben sollen kurze Betreffvorschläge und ausführliche Berichtsauswertungen unterschiedliche Modelle nutzen können. Ein geplanter Vergleich stellt die Routenwahl dem bisherigen Einsatz eines festen Modells gegenüber. Bewertet werden der fachliche Aufgabenerfolg, Fehlzuordnungen, Antwortdauer und tatsächlich entstehende Betriebskosten. Auch ein Ausweichweg bei Ausfall darf nur erlaubte Kandidaten verwenden. Die gewählte Route und die Modellversion werden mit den Prüfbedingungen festgehalten, damit Fehler einem konkreten Verarbeitungsschritt zugeordnet werden können.

Quellen

• Microsoft Learn · Model router for Microsoft Foundry