RAG
RAG, ilgili bilgiyi aramayı yanıt üretimiyle birleştirir. Kaynak erişimi, kalite ve yetki tasarımını gereksiz kılmaz.
Bilgi erişimiyle desteklenen üretim (RAG), ilgili bilgilerin bulunmasını dil modeliyle yanıt üretimine bağlar. Bulunan içerik ek bağlam olarak verilir. Bunun için her yeni belgede modeli yeniden eğitmek gerekmez.
Bilgi asistanı örneği
Varsayımsal işletmede asistan önce onaylı iş talimatını arar, ardından kaynağa dayalı yanıt oluşturur. Arama anahtar sözcük, vektör benzerliği veya birleşimlerini kullanabilir.
RAG doğru yanıtı garanti etmez. Yanlış, eski veya yetkisiz alınan bölümler çıktıyı yanıltabilir. Uygun bulunan kaynak da yanlış özetlenebilir. Bu nedenle kaynak seçimi, erişim yetkileri ve yanıtın dayanağa sadakati ayrı sınanmalıdır.
Kaynaklar
İlgili terimler
- EmbeddingEmbedding, içeriği sayısal bir vektörle temsil eder. Hangi benzerliklerin yakalanacağı modele ve karşılaştırma yöntemine bağlıdır.
- Vektör veritabanıVektör veritabanı, embedding’leri saklar ve bunlar üzerinde arama yapar. Benzer bir sonuç, geçerli ve erişim izni olan bir yanıt kaynağı demek değildir.
- GroundingGrounding, yapay zekâ yanıtını doğrulanabilir dayanağa bağlar. Kaynak bağlantısı tek başına her cümlenin desteklendiğini göstermez.
- Model kartıModel kartı; bir yapay zekâ modelinin amacını, dayanaklarını, değerlendirme koşullarını ve bilinen sınırlarını belirli sürüm için belgeler.
- Yapay zekâya hazırlıkYapay zekâya hazırlık; bir proje için amaç, kullanılabilir veri, yetkinlik, sorumluluk ve işletim sürecinin durumunu değerlendirir.
- Bağlam mühendisliğiBağlam mühendisliği, her model çağrısı için uygun talimatları, mesajları, kaynakları ve güncel durum bilgisini hazırlar.
Bu konudaki yazılar
ASES ile Yapay zekâ ve otomasyon
Yapay zekâ asistanları ve otomatik iş akışları