YZ hizmeti kesilince destek taleplerini işlemeye devam etmek

Otomatik özetleme çalışmadığında da destek talebi ekip tarafından işlenebilir kalmalıdır. Bunun için uygulamanın bu işlev olmadan çalışacak bir akışı olmalıdır. Tekrarlanan model çağrıları tek başına iş sürecini ayakta tutmaz.

Talebin alınmasını YZ adımından ayırın

Kurgusal portalda teknik talep önce kayıt deposuna yazılır. Giriş kimliği F-81 olarak belirlenir. Alındı bildirimi ancak kayıt doğrulandıktan sonra görünür. Ardından bir YZ hizmetinin dahili özet oluşturması beklenir. Özgün mesaj, sorumlu ekip için okunabilir kalır.

Özetleme çalışmazsa kaydedilmiş talep, öngörülen iş listesinde işlenebilir. Arayüz, özetin beklediğini gösterir; talebi tamamlanmış gibi sunamaz. Bu tasarım, depolamanın, izinlerin ve elle işleme yolunun kesilen YZ adımından bağımsız çalışmasını gerektirir.

Hata türlerini sonraki adımlarla ilişkilendirin

Microsoft, yeniden deneme örüntüsünde geçici hataları tekrarın anlamlı olmadığı durumlardan ayırır. Kullanılan hizmet için uygun süre ve deneme sınırları belirleyin. Tablo, örnekte beklenen tepkileri gösterir:

Erişim reddinde sorumlu teknik kişi yapılandırmayı ve izinleri kontrol eder. Uygulama bu sırada haklarını kendiliğinden genişletmez.

Sonucu bilinmeyen yazma işlemini önce netleştirin

Kaybolan yanıt, kaydın zaten yapılmış olabileceği anlamına gelir. Microsoft, idempotent olmayan işlemlerin yeniden yürütülmesiyle tekrarlanan etkilere dikkat çeker. Burada idempotent, aynı görevin tekrarlanmasının ek bir iş etkisi oluşturmaması demektir.

Kayıt yolu, aynı giriş kimliğiyle gelen tekrarları izin kapsamına uygun ele almalı ve mevcut sonucu döndürebilmelidir. Yalnızca kimlik bulunması bunu sağlamaz. Durum bilinmiyorsa işlemi zorla sürdürmek için yeni kimlikle ikinci kayıt açılmaz.

Yeniden başlama ve sorumluluğu belirleyin

NIST’in üretken YZ profili toparlanma planlarını, iletişim yollarını ve alternatif süreçleri ele alır. Açık işleri kimin devralacağını ve otomatik işin ne zaman yeniden başlayabileceğini belirleyin. Geç gelen YZ metni, bu sırada elle işlenip kontrol edilmiş kaydın üzerine denetlenmeden yazılmamalıdır.

Kesintiyi, erişim reddini, bilinmeyen kayıt durumunu ve elle işlemeden sonra hizmetin geri gelmesini test edin. Her vakada özgün mesajı, görünür talep durumunu ve kullanılabilir sonraki adımı inceleyin. Arayüzün yeniden erişilebilir olması, bütün açık taleplerin doğru sürdürüldüğünü tek başına göstermez.

Kaynaklar

• Microsoft — Retry pattern

• NIST — AI 600-1 Generative AI Profile, July 2024