Datendrift
Veränderung der Verteilung von Modelleingaben gegenüber einer ausdrücklich gewählten Referenz.
Was hat sich an den eingehenden Daten verändert?
Datendrift bedeutet, dass sich die Verteilung von Modelleingaben gegenüber einer gewählten Referenz verändert. Als Vergleich können etwa Trainingsdaten oder ein früherer Nutzungszeitraum dienen; welche Referenz verwendet wird, muss feststehen. Betrachtet werden Eigenschaften wie Häufigkeiten von Kategorien oder Wertebereiche. Ein Drift-Signal weist auf eine mögliche Veränderung hin. Ob dadurch mehr falsche Vorhersagen entstehen, muss gesondert bewertet werden. Auch eine veränderte Beziehung zwischen Eingaben und Ziel lässt sich aus dem Signal allein nicht ableiten.
In einem fiktiven System zur Bildklassifikation nimmt nach Einführung eines neuen Aufnahmegeräts der Anteil schlecht beleuchteter Fotos zu. Für den Vergleich werden der Bezugszeitraum und die beobachteten Aufnahmebedingungen dokumentiert. Anschließend werden betroffene Bilder und ihre fachlich geprüften Klassen betrachtet, um mögliche Veränderungen der Fehler zu prüfen. Dabei wird auch untersucht, ob sich die Aufnahmepraxis tatsächlich geändert hat oder ein Fehler bei Übertragung oder Verarbeitung vorliegt. Ein auffälliger Datenvergleich ist ein Anlass für diese Untersuchung; er beweist weder einen Defekt des Geräts noch die Notwendigkeit eines neuen Modells.
Quellen
Verwandte Begriffe
- Maschinelles LernenModelle lernen Muster aus Daten und nutzen sie für neue Eingaben.
- Computer VisionVerfahren zur Auswertung von Bildern und Videos, etwa um Objekte einzuordnen, zu lokalisieren oder Bildbereiche zu unterscheiden.
- TrainingsdatenDie Beispiele, aus denen ein Modell während des Trainings Zusammenhänge oder Parameter lernt.
- Testdaten im maschinellen LernenFür eine abschließende Bewertung vorgesehene Daten, deren Ergebnisse nicht zur Auswahl der geprüften Modellvariante verwendet wurden.
- KI-BiasSystematische Verzerrungen in KI-Systemen, die bestimmte Fälle oder Personengruppen benachteiligen können.
- ModelldriftNachlassende Vorhersagegüte eines Modells, weil sich Daten oder Zusammenhänge im Einsatz verändern.
Ihr Vorhaben mit ASES
Beschreiben Sie uns Ihr Vorhaben. Wir melden uns mit einer ersten Einschätzung.