Açıklanabilir yapay zekâ

Açıklama neyi anlaşılır kılmalı?

Açıklanabilir yapay zekâ, bir yapay zekâ sisteminin sonuçlarını veya çalışma biçimini anlaşılır kılan yaklaşımları kapsar. Açıklama, alıcının sorusuna ve ön bilgisine uygun olmalı, sistemin gerçek davranışını doğru yansıtmalıdır. Geliştirme ekibiyle servis planını inceleyen kişi genellikle farklı ayrıntılara ihtiyaç duyar. Açıklamanın doğru olmasıyla tahminin iş açısından doğru olması ayrı sorulardır. Açıklamanın sınırlarını anlamak da gerekir.

Kurgusal bir planlama sisteminde model, servis ziyaretinin süresini tahmin eder. Ekrandaki açıklama, iş türünü ve planlanan parça değişimini etkili girdiler olarak gösterir. İncelemede bu bilgilerin tam olarak bu tahmin için uygun bir açıklama yönteminden gelip gelmediği ve kullanılan model sürümüyle uyuşup uyuşmadığı araştırılır. Akıcı yazılmış bir gerekçe tek başına bunu kanıtlamaz. Servis planında tahmini sürenin iş açısından makullüğü ve belirsiz veya eksik girdiler de ele alınır. Açıklama, incelemenin nereye odaklanabileceğini gösterir; bu incelemeyi ortadan kaldırmaz.

Kaynaklar

• NIST · Four Principles of Explainable Artificial Intelligence