Yapay zekâ halüsinasyonu
Yapay zekâ halüsinasyonu, inandırıcı görünen fakat yanlış veya uydurulmuş içeriktir. Akıcı anlatım doğruluk kanıtı değildir.
Dayanaksız bir iddiayı hata olarak tanımak
Modelin yanlış veya uydurulmuş bir iddiayı gerçek dünya hakkında bilgi olarak sunmasına yapay zekâ halüsinasyonu denir. Var olmayan kaynak veya uydurulmuş ürün özelliği buna örnektir. Anlatım yine de ikna edici olabilir.
Varsayımsal bir örnekte destek asistanı, ürünün pazar günü teslim alınabileceğini söyler. Verilen işletme kuralı yalnız pazartesiden cumaya teslim almaya izin verir. Bu yüzden dildeki kararlılıktan doğruluk sonucu çıkarmak yerine ifade güncel kuralla karşılaştırılır.
Özellikle istenmiş kurmaca hikâye farklı bir görevdir. Eski bir kurala göre doğru olan yanıt da serbestçe uydurulmuş iddia yerine kaynak hatası içerebilir. Düzeltme için güncel dayanağın eksik mi, yanlış mı getirildiği veya yanlış mı kullanıldığı açıklığa kavuşturulmalıdır.
Kaynaklar
İlgili terimler
- Büyük dil modeliBüyük dil modeli, öğrendiği örüntülerle dili işler. Akıcı metin, bilginin doğruluğunu veya güncel şirket verisine erişimi kanıtlamaz.
- LLM değerlendirmesiLLM değerlendirmesi, model sonuçlarını tanımlı görev ve ölçütlerle sınar. Başarılı tek örnek, genel kaliteyi kanıtlamaz.
- Model kartıModel kartı; bir yapay zekâ modelinin amacını, dayanaklarını, değerlendirme koşullarını ve bilinen sınırlarını belirli sürüm için belgeler.
- Yapay zekâya hazırlıkYapay zekâya hazırlık; bir proje için amaç, kullanılabilir veri, yetkinlik, sorumluluk ve işletim sürecinin durumunu değerlendirir.
- Bağlam mühendisliğiBağlam mühendisliği, her model çağrısı için uygun talimatları, mesajları, kaynakları ve güncel durum bilgisini hazırlar.
- Anomali tespitiBelirlenmiş bir referansa veya öğrenilmiş örüntüye göre olağandışı gözlemleri işaretleyen yöntemler.
Bu konudaki yazılar
ASES ile Yapay zekâ ve otomasyon
Yapay zekâ asistanları ve otomatik iş akışları