Yapay zekâ yanlılığı

Tek taraflı sonuçlar nereden gelebilir?

Yapay zekâ yanlılığı, verilerde, modellerde veya bunların kullanımında oluşan sistematik çarpıklıkları ifade eder. Belirli durumların veya insan gruplarının daha kötü muamele görmesine yol açabilir. Nedenler arasında verilerin seçimi ve etiketlenmesi, öğrenme hedefi veya işletmedeki mevcut uygulamalar bulunur. Böyle bir çarpıklık, bilinçli olarak dezavantaj yaratmayı gerektirmez. İyi bir ortalama değer, sistemin planlanan kullanımın bir bölümünde sık hata yaptığını örtebilir.

Servis taleplerini dağıtan kurgusal bir model, ağırlıkla merkez atölyenin mesajlarıyla eğitilir. Burada resmî ürün adları kullanılır; diğer şubelerin yerel kısaltmaları ise pek temsil edilmez. Bu nedenle o şubelerin talepleri daha sık yanlış atanabilir. İnceleme için ilgili şubelerden örnekler aynı iş kuralına göre etiketlenir; yanlış atamalar, durum sayılarıyla birlikte ayrı değerlendirilir. Böylece veri seçiminin, etiketlemenin veya model davranışının iyileştirilmesi gerekip gerekmediği araştırılır. Daha fazla eğitim mesajı, ancak ilgili açığı gerçekten kapsıyorsa yarar sağlar.

Kaynaklar

• NIST · Towards a Standard for Identifying and Managing Bias in Artificial Intelligence

• IBM · Data Science Best Practices: Monitoring