Zum Inhalt springen

Ein KI-Modell austauschen und am selben Ablauf prüfen

Vergleichen Sie alte und neue Modellkonfiguration an denselben Fällen. Trennen Sie fachliche Fehler, Formatverstöße und die Entscheidung zur Freigabe.

Matthias Becker2 Min. Lesezeit
Tablet mit einer zweispaltigen Tabelle aus grünen Häkchen und orangefarbenen Kreuzen.

Prüfen Sie bei einem Modellwechsel den vollständigen betroffenen Anwendungsablauf. Eine neue Modellkennung in der Konfiguration reicht als Nachweis nicht aus. Nutzen Sie einen bestehenden Bewertungssatz und halten Sie fest, welche Änderung Sie tatsächlich vergleichen.

Die beiden Konfigurationen eindeutig festhalten

Dokumentieren Sie Modellkennung, Promptfassung, bereitgestellte Quellen, Werkzeuge und Einstellungen beider Varianten. Bleiben Eingaben, Regeln und Verarbeitung gleich, lässt sich der Modellwechsel gezielter untersuchen. Müssen Sie auch Prompt, Adapter oder Auswertung ändern, vergleichen Sie zwei Anwendungskonfigurationen; schreiben Sie den Unterschied nicht allein dem Modell zu.

Microsoft beschreibt den Vergleich gespeicherter Varianten anhand derselben Fälle und die Prüfung einzelner Fehler. Für Ihren Ablauf müssen die fachlichen Sollentscheidungen vor dem Vergleich feststehen.

Unterschiede je Fall sichtbar machen

Das folgende Beispiel ist vollständig erfunden. Eine Anwendung soll aus einer Nachricht eine Projektkennung extrahieren oder eine manuelle Prüfung anfordern. Sie vergibt keinen Projektzugriff. Die Feldnamen sind unser eigenes internes Schema, keine Anbieter-API.

Die Tabelle enthält angenommene Ausgaben zur Erklärung. Sie ist kein ausgeführter Modelltest. Die Fallbeschreibungen ersetzen nicht die versionierten Originaleingaben eines echten Vergleichs.

Fall

Soll

Alte Variante

Neue Variante

C-31: eine Projektkennung eindeutig genannt

projectId=P-72, needsReview=false

Entspricht dem Soll.

Entspricht dem Soll.

C-32: gewünschtes Projekt bleibt unklar

projectId=null, needsReview=true

Entspricht dem Soll.

projectId=P-72, needsReview=false

C-33: Ausgabe nach dem vereinbarten Schema

Pflichtfeld projectId vorhanden.

Entspricht dem Soll.

Pflichtfeld fehlt; nur project_id geliefert.

Im zweiten Fall wählt die neue Variante trotz Unklarheit ein Projekt. Im dritten verletzt sie den Feldvertrag. Eine zusammengefasste Bewertung würde diese unterschiedlichen Fehlerursachen verdecken. Auch formal gültige Ausgaben müssen fachlich passen.

Fehler vor der Weiterverarbeitung behandeln

OWASP empfiehlt, Modellausgaben vor der Übergabe an nachgelagerte Komponenten zu validieren. Im Beispiel darf ein fehlendes Pflichtfeld nicht als erfolgreicher Extraktionslauf weiterlaufen. Die Anwendung muss die Ausgabe ablehnen oder in den vorgesehenen Prüfweg führen. Ein vorhandenes Projektfeld ist weiterhin keine Zugriffsberechtigung.

Prüfen Sie neben solchen Fach- und Formatfällen auch tatsächlich benötigte Sprachen, Ausfälle und Wiederholungen. Ein einzelner Durchlauf zeigt keine stabile Fehlerhäufigkeit. Werden bekannte Fehler zum Anpassen der neuen Variante genutzt, sind ergänzende zurückgehaltene Fälle für eine unabhängige Kontrolle nötig.

Freigabe und Rückkehr gemeinsam planen

Legen Sie vor der Freigabe fest, welche Fehler den Wechsel verhindern und wer offene Unterschiede beurteilt. Im Tabellenbeispiel sind die vorschnelle Projektzuordnung aus einer unklaren Nachricht und das fehlende Pflichtfeld zunächst zu klären.

Bewahren Sie die bisherige Anwendungskonfiguration und einen überprüften Rückkehrweg auf. Klären Sie dabei auch, ob das bisherige Modell weiterhin verfügbar ist und die gespeicherten Daten kompatibel bleiben. Nach dem Wechsel sind die tatsächlichen Ergebnisse des betroffenen Ablaufs zu beobachten; drei illustrative Fälle belegen keine allgemeine Produktionsreife.

Quellen

Geschrieben von

  • Matthias BeckerRedakteur für KI und AutomatisierungMatthias Becker betreut bei ASES die Beiträge zu künstlicher Intelligenz und Automatisierung. Er untersucht, wie Unternehmen KI in ihren Arbeitsabläufen einsetzen können und wo die Grenzen der jeweiligen Anwendungen liegen.

ASES folgen

Weiterlesen

Alle Beiträge

KI & Automatisierung mit ASES

KI-Assistenten und automatisierte Abläufe