Hızlı yapay zekâ önerileri düzeltme yükünü artırabilir

Bir yapay zekâ önerisi saniyeler içinde gelebilir; buna rağmen eski akıştan daha fazla insan emeği gerektirebilir. Otomasyon kararında, eşdeğer sonuca kadar ne kadar iş yapıldığı belirleyicidir. Modelin yanıt süresi bu yolun yalnız bir bölümünü kapsar.

Aynı talepleri aynı sonuca kadar hesaplamak

Kurgusal hesap örneğinde 100 destek talebi doğru uzman ekibe yönlendirilir ve ekip tarafından işleme kabul edilir. Bu, destek sorunlarının çözüldüğü anlamına gelmez. Mevcut elle yönlendirme talep başına iki dakika sürer: 100 × 2 = 200 dakika.

Yapay zekâ akışında yönlendirme önerisi hızla görünür. Her talep bir dakika kontrol edilir. Ardından 30 talep için dörder dakika ek düzeltme gerekir. Talep grubu başına bir defa eşleştirme ve aktarım için 20 dakika daha harcanır.

Düzeltme süresi, önceden sayılan kontrol süresine eklenir. İki akış da eşdeğer biçimde yönlendirilmiş ve kabul edilmiş taleplerle biter; aynı iş iki kez sayılmaz. Örnekte insan emeği 40 dakika artar.

Darboğaz öneriden sonra oluşabilir

Otomasyon, ekibin tamamlayabildiğinden daha hızlı yeni öneri üretirse kontrol kuyruğu büyür. Hızlı ilk yanıtın yanında, kullanılabilir yönlendirmeye kadar daha uzun bekleme oluşabilir. Bekleme süresi ve aktif çalışma süresi farklı ölçülerdir.

Google SRE Workbook, değişikliklerden önce gerçek iş yükünün ölçülmesini önerir. Bu pilotta aktif sürenin yanında hangi taleplerin hâlâ açık olduğu ve en eskisinin ne kadar beklediği de görünmelidir. Modelin ortalama yanıt süresinin kısa olması bunları açıklamaz.

Düzeltme yolu da yazılımın parçasıdır

Guidelines for Human-AI Interaction, düzeltmelerin kolay yapılabilmesini ele alır. Yönlendirme ekranında çalışanlar asıl talebi ve öneriyi birlikte görebilmeli, yanlış ekibi doğrudan değiştirebilmelidir. Veri kopyalamak, ikinci bir sistem açmak ve bağlamı yeniden kurmak gerekiyorsa bu işler de otomasyon hesabına girer.

Daha az düzeltme gerekiyorsa veya öneriler düşük riskli bir amaç için tek tek kontrol edilmeden güvenilir biçimde kullanılabiliyorsa değerlendirme değişebilir. Örnek, her yapay zekâ sonucunu elle kontrol etme zorunluluğu getirmez. Karşılaştırmada beklenen sonuç kalitesi aynı kalmalıdır.

Bu nedenle yaygınlaştırma kararı bütün akışla gerekçelendirilmelidir. Yalnız öneriye ulaşma süresi azalırken düzeltme emeği ve açık talepler artıyorsa önce hata ve aktarım yolu iyileştirilmelidir. Yanıt hızı tek başına bu kararı desteklemez.

Kaynaklar

• Google SRE Workbook: Identifying and Recovering from Overload

• Amershi et al.: Guidelines for Human-AI Interaction (CHI 2019)