Bağlam mühendisliği
Bağlam mühendisliği, her model çağrısı için uygun talimatları, mesajları, kaynakları ve güncel durum bilgisini hazırlar.
Model çağrısının çalışma bağlamını hazırlamak
Bağlam mühendisliği, bir dil modeline belirli bir çağrıda verilecek bilgilerin amaçlı biçimde seçilip hazırlanmasıdır. Talimatlar, ilgili konuşma bölümleri, bulunan belgeler ve çalıştırılmış araçların sonuçları buna dahil olabilir. İfadenin nasıl yazıldığı kadar hangi bilginin seçildiği, güncellendiği veya özetlendiği de önemlidir. Sınırlı bağlam penceresi önceliklendirme gerektirir. Kalıcı olarak saklanan bilgi her çağrıda modele kendiliğinden sunulmaz; mevcut araç açıklamaları da ek işlem yetkisi vermez.
Kurgusal bir servis işleminde müşteri, onarılan cihazını nasıl geri alacağını sorar. Eski konuşma özetinde elden alma, en son doğrulanmış işlem durumunda ise sonradan kararlaştırılan kargo gönderimi yazılıdır. Uygulama yanıt için güncel durumu kaynağıyla sunmalı, önceki tercihin değiştiğini belirtmelidir. Böylece modelin kararlaştırılan iade biçimini doğru aktarıp aktarmadığı kontrol edilir. Yalnızca daha fazla metin sağlamak çelişkiyi çözmez. Kararlaştırılan gönderim hakkında bilgi vermek, kendiliğinden bir kargo talimatı oluşturmaz.
Kaynaklar
İlgili terimler
- PromptPrompt, üretken yapay zekâ modeline verilen girdidir. Açık bir görev tanımı yardımcı olur; ancak veri bağlantısının veya teknik izinlerin yerini tutmaz.
- Prompt mühendisliğiÜretken bir model için görevi, bağlamı ve çıktı kurallarını bilinçli olarak tasarlayıp sınamak.
- Bağlam penceresiBağlam penceresi, dil modelinin bir işlem adımında dikkate alabildiği token miktarını sınırlar. Kalıcı bir bilgi arşivi değildir.
- RAGRAG, ilgili bilgiyi aramayı yanıt üretimiyle birleştirir. Kaynak erişimi, kalite ve yetki tasarımını gereksiz kılmaz.
- Fonksiyon çağırmaDil modeli, tanımlanmış bir fonksiyonu yapılandırılmış parametrelerle ister; işlemi bağlı uygulama yürütür.
- Model kartıModel kartı; bir yapay zekâ modelinin amacını, dayanaklarını, değerlendirme koşullarını ve bilinen sınırlarını belirli sürüm için belgeler.
Bu konudaki yazılar
ASES ile Yapay zekâ ve otomasyon
Yapay zekâ asistanları ve otomatik iş akışları