Model yönlendirme

İsteği hangi model işlemeli?

Model yönlendirme, bir istek için önceden belirlenmiş izinli modeller arasından seçim yapar. Karar; görev türüne, gereken yeteneklere, yanıt süresi veya işletim maliyeti koşullarına bağlı olabilir. Sabit kurallar veya ayrı bir seçim modeli kullanılabilir. Ardından seçilen model isteği işler. Yalnızca yönlendirme yapılması bu modeli eğitmez. Veriler ve görev için hangi seçeneklerin kullanılabileceği, seçimden önce belli olmalıdır.

Kurgusal bir projede kısa konu satırı önerileriyle ayrıntılı rapor incelemelerinin farklı modeller kullanabilmesi planlanır. Planlanan karşılaştırma, yönlendirme seçimini o zamana kadar kullanılan sabit modelle karşılaştırır. Görevin iş açısından doğru tamamlanması, yanlış model seçimleri, yanıt süresi ve gerçekten oluşan işletim maliyeti değerlendirilir. Bir arıza durumundaki alternatif yol da yalnızca izinli seçenekleri kullanabilir. Hatanın somut bir işlem adımına bağlanabilmesi için seçilen yol ve model sürümü kontrol koşullarıyla birlikte kaydedilir.

Kaynaklar

• Microsoft Learn · Model router for Microsoft Foundry