Bağlam penceresi
Bağlam penceresi, dil modelinin bir işlem adımında dikkate alabildiği token miktarını sınırlar. Kalıcı bir bilgi arşivi değildir.
Kullanılabilir bağlamı saklanan bilgiden ayırmak
Bağlam penceresi, dil modelinin bir işlem adımında dikkate alabildiği sınırlı token miktarını anlatır. Talimatlar, önceki mesajlar ve eklenen belge parçaları buna dahil olabilir. Hangi içeriğin gerçekten pencereye girdiğini uygulama da belirler.
Varsayımsal bir örnekte asistandan güncel teslimat kuralını eski sürümle karşılaştırması istenir. Yalnız eski sürüm verilmişse daha büyük bağlam penceresi tek başına yardım etmez. Olası girdiyi büyütür, fakat eksik güncel kaynağı bulup getirmez.
Bağlam penceresi, bütün şirket belgelerinin kalıcı hafızası da değildir. Arama veya belge bağlantısı ilgili içeriği bir istek için sağlayabilir. Uzun metin pencereye sığsa bile belirleyici bilgilerin sonuçta doğru kullanılıp kullanılmadığı kontrol edilmelidir.
Kaynaklar
İlgili terimler
- Dil modelinde tokenToken, dil modelinin işleme birimidir. Her zaman tam bir sözcüğe karşılık gelmez ve tasarım tokenından farklı anlam taşır.
- Büyük dil modeliBüyük dil modeli, öğrendiği örüntülerle dili işler. Akıcı metin, bilginin doğruluğunu veya güncel şirket verisine erişimi kanıtlamaz.
- PromptPrompt, üretken yapay zekâ modeline verilen girdidir. Açık bir görev tanımı yardımcı olur; ancak veri bağlantısının veya teknik izinlerin yerini tutmaz.
- Model kartıModel kartı; bir yapay zekâ modelinin amacını, dayanaklarını, değerlendirme koşullarını ve bilinen sınırlarını belirli sürüm için belgeler.
- Yapay zekâya hazırlıkYapay zekâya hazırlık; bir proje için amaç, kullanılabilir veri, yetkinlik, sorumluluk ve işletim sürecinin durumunu değerlendirir.
- Bağlam mühendisliğiBağlam mühendisliği, her model çağrısı için uygun talimatları, mesajları, kaynakları ve güncel durum bilgisini hazırlar.
Bu konudaki yazılar
ASES ile Yapay zekâ ve otomasyon
Yapay zekâ asistanları ve otomatik iş akışları