KI-Bias
Systematische Verzerrungen in KI-Systemen, die bestimmte Fälle oder Personengruppen benachteiligen können.
Woher können einseitige Ergebnisse kommen?
KI-Bias bezeichnet systematische Verzerrungen in Daten, Modellen oder ihrem Einsatz. Sie können dazu führen, dass bestimmte Fälle oder Personengruppen schlechter behandelt werden. Ursachen liegen etwa in der Auswahl und Kennzeichnung von Daten, im Lernziel oder in bestehenden betrieblichen Praktiken. Eine solche Verzerrung setzt keine bewusste Benachteiligung voraus. Ein guter Durchschnittswert kann verdecken, dass das System in einem Teil des vorgesehenen Einsatzes häufig Fehler macht.
Ein fiktives Modell zur Verteilung von Serviceanfragen wird überwiegend mit Nachrichten der zentralen Werkstatt trainiert. Dort stehen offizielle Produktnamen; die lokalen Abkürzungen anderer Niederlassungen sind kaum vertreten. Dadurch könnten deren Anfragen häufiger falsch zugeordnet werden. Für eine Prüfung werden Beispiele aus den betroffenen Niederlassungen nach derselben fachlichen Regel gekennzeichnet und Fehlzuordnungen samt Fallzahlen getrennt betrachtet. So lässt sich untersuchen, ob Datenauswahl, Kennzeichnung oder Modellverhalten nachgebessert werden müssen. Mehr Trainingsnachrichten helfen nur, wenn sie die relevante Lücke tatsächlich abdecken.
Quellen
Verwandte Begriffe
- Maschinelles LernenModelle lernen Muster aus Daten und nutzen sie für neue Eingaben.
- Überwachtes LernenEin Lernverfahren, das Eingaben mit zugehörigen Zielwerten oder Klassen als Trainingsbeispiele verwendet.
- TrainingsdatenDie Beispiele, aus denen ein Modell während des Trainings Zusammenhänge oder Parameter lernt.
- Testdaten im maschinellen LernenFür eine abschließende Bewertung vorgesehene Daten, deren Ergebnisse nicht zur Auswahl der geprüften Modellvariante verwendet wurden.
- Erklärbare KIAnsätze, die Ergebnisse oder Arbeitsweisen eines KI-Systems für die vorgesehenen Empfänger nachvollziehbar machen.
- KonfusionsmatrixTabelle, die Referenzklassen und Modellvorhersagen gegenüberstellt und richtige sowie falsche Zuordnungen zählt.
Ihr Vorhaben mit ASES
Beschreiben Sie uns Ihr Vorhaben. Wir melden uns mit einer ersten Einschätzung.