Uitlegbare AI

Wat moet een uitleg begrijpelijk maken?

Uitlegbare AI omvat benaderingen die resultaten of de werking van een AI-systeem begrijpelijk maken. Een uitleg moet passen bij de vraag en voorkennis van de ontvangers en het werkelijke systeemgedrag juist weergeven. Een ontwikkelteam heeft vaak andere details nodig dan de persoon die een serviceplanning beoordeelt. Of de uitleg klopt en of de voorspelling inhoudelijk juist is, zijn afzonderlijke vragen. Ook de grenzen van de uitleg moeten duidelijk zijn.

In een fictief planningssysteem schat een model de duur van een servicebezoek. De getoonde uitleg noemt het soort werk en een geplande vervanging van een onderdeel als invloedrijke invoer. Bij de beoordeling wordt onderzocht of die informatie voor precies deze voorspelling uit een geschikte uitlegmethode komt en bij de gebruikte modelversie past. Een vlot geschreven onderbouwing bewijst dat op zichzelf niet. Voor de planning worden ook de inhoudelijke aannemelijkheid van de geschatte duur en onzekere of ontbrekende invoer bekeken. De uitleg laat zien waarop een beoordeling zich kan richten; zij vervangt die beoordeling niet.

Bronnen

• NIST · Four Principles of Explainable Artificial Intelligence