Grounding
Grounding, yapay zekâ yanıtını doğrulanabilir dayanağa bağlar. Kaynak bağlantısı tek başına her cümlenin desteklendiğini göstermez.
Grounding, yapay zekâ yanıtını izlenebilir bir dayanağa, örneğin verilen belgelere veya doğrulanabilir verilere bağlamaktır. Yanıt bu kanıtlara dayanmalı ve sınırlarını gözetmelidir.
Teslim listesi örneği
Varsayımsal kontrol listesi, güç adaptörünün pakete dahil olduğunu söyler. Asistan bunu yanıtlayabilir. Ancak liste cuma günü teslimi kanıtlamaz; böyle ekleme kaynaktan desteklenmez.
RAG, uygun dayanakları sağlama yöntemlerinden biridir. Grounding aramanın kendisiyle aynı değildir. Eski kaynağın sadık aktarımı bile bugünkü görev için yanlış olabilir. Dayanağa sadakat, geçerlilik ve olgusal kalite ayrı sınanır.
Kaynaklar
İlgili terimler
- RAGRAG, ilgili bilgiyi aramayı yanıt üretimiyle birleştirir. Kaynak erişimi, kalite ve yetki tasarımını gereksiz kılmaz.
- Yapay zekâ halüsinasyonuYapay zekâ halüsinasyonu, inandırıcı görünen fakat yanlış veya uydurulmuş içeriktir. Akıcı anlatım doğruluk kanıtı değildir.
- LLM değerlendirmesiLLM değerlendirmesi, model sonuçlarını tanımlı görev ve ölçütlerle sınar. Başarılı tek örnek, genel kaliteyi kanıtlamaz.
- Model kartıModel kartı; bir yapay zekâ modelinin amacını, dayanaklarını, değerlendirme koşullarını ve bilinen sınırlarını belirli sürüm için belgeler.
- Yapay zekâya hazırlıkYapay zekâya hazırlık; bir proje için amaç, kullanılabilir veri, yetkinlik, sorumluluk ve işletim sürecinin durumunu değerlendirir.
- Bağlam mühendisliğiBağlam mühendisliği, her model çağrısı için uygun talimatları, mesajları, kaynakları ve güncel durum bilgisini hazırlar.
Bu konudaki yazılar
ASES ile Yapay zekâ ve otomasyon
Yapay zekâ asistanları ve otomatik iş akışları