Model kartı
Model kartı; bir yapay zekâ modelinin amacını, dayanaklarını, değerlendirme koşullarını ve bilinen sınırlarını belirli sürüm için belgeler.
Modelin kullanım koşullarını anlaşılır biçimde belgelemek
Model kartı, diğer adıyla Model Card, bir yapay zekâ modeline eşlik eden belgedir. Amaçlanan kullanım, eğitim ve değerlendirmede kullanılan veriler, değerlendirme yöntemleri ve bilinen sınırlar gibi bilgileri içerir. Bu bilgiler belirlenebilir bir model sürümüyle ilişkilendirilmelidir. Sonuçlar ancak inceleme koşullarıyla birlikte anlam kazanır: Hangi görevler, girdiler ve diller incelenmiştir? Kart, bilinçli seçim yapmayı destekler; kendi kullanım senaryonuzdaki kontrolün yerini almaz.
Servis bildirimlerini sınıflandıran kurgusal bir model için hazırlanacak kart, ele alınan bildirim türünü ve kontrol edilen kategorileri belirtmelidir. Kalite yalnızca standart biçimde yazılmış bildirimlerle değerlendirilmiş olsaydı, buradan işletme kısaltmaları içeren, otomatik olarak yazıya çevrilmiş sesli mesajlara uygunluğun da kontrol edildiği sonucu çıkmazdı. Bu girdi türü açık bir soru olarak görünür kalmalı ve ayrıca incelenmelidir. Yeni model sürümünde bilgiler yeniden karşılaştırılmalıdır. Düzenli yazılmış bir kart, tek başına bağımsız sertifika veya hatasız yönlendirme kanıtı değildir.
Kaynaklar
İlgili terimler
- LLM değerlendirmesiLLM değerlendirmesi, model sonuçlarını tanımlı görev ve ölçütlerle sınar. Başarılı tek örnek, genel kaliteyi kanıtlamaz.
- Yapay zekâ yanlılığıYapay zekâ sistemlerinde belirli durumları veya insan gruplarını dezavantajlı bırakabilen sistematik çarpıklıklar.
- Yapay zekâ çıktılarının tekrarlanabilirliğiYapay zekâ üretimlerini belgelenmiş koşullarda tekrarlayıp sonuçlarını belirlenmiş ölçütlerle karşılaştırabilme.
- Yapay zekâya hazırlıkYapay zekâya hazırlık; bir proje için amaç, kullanılabilir veri, yetkinlik, sorumluluk ve işletim sürecinin durumunu değerlendirir.
- Bağlam mühendisliğiBağlam mühendisliği, her model çağrısı için uygun talimatları, mesajları, kaynakları ve güncel durum bilgisini hazırlar.
- Anomali tespitiBelirlenmiş bir referansa veya öğrenilmiş örüntüye göre olağandışı gözlemleri işaretleyen yöntemler.
Bu konudaki yazılar








ASES ile Yapay zekâ ve otomasyon
Yapay zekâ asistanları ve otomatik iş akışları



