Modellkort
Ett modellkort dokumenterar syfte, grunder, utvärderingsvillkor och kända begränsningar för en viss version av en AI-modell.
Att beskriva en modells användningsvillkor tydligt
Ett modellkort, även kallat Model Card, är dokumentation som följer med en AI-modell. Det beskriver bland annat avsedd användning, tränings- och utvärderingsdata, utvärderingsmetoder och kända begränsningar. Uppgifterna bör knytas till en identifierbar modellversion. Resultat blir begripliga tillsammans med sina utvärderingsvillkor: vilka uppgifter, indata och språk undersöktes? Kortet stödjer ett informerat val, men ersätter inte en prövning i den egna tillämpningen.
För en fiktiv modell som kategoriserar serviceanmälningar skulle kortet ange vilken typ av anmälan som undersökts och vilka kategorier som utvärderats. Om kvaliteten bara hade utvärderats med standardiserade skriftliga anmälningar skulle det inte visa prövad lämplighet för automatiskt transkriberade röstmeddelanden med interna förkortningar. Den indatatypen behöver stå kvar som en synlig öppen fråga och undersökas separat. Vid en ny modellversion skulle uppgifterna behöva stämmas av igen. Ett tydligt skrivet kort är i sig varken ett oberoende certifikat eller bevis på felfri vidarebefordran.
Källor
Relaterade begrepp
- LLM-utvärderingLLM-utvärdering prövar modellutdata mot definierade uppgifter och kriterier. Ett bra enskilt exempel bevisar inte allmän kvalitet.
- AI-biasSystematiska snedvridningar i AI-system som kan missgynna vissa fall eller grupper av människor.
- Reproducerbarhet för AI-utdataAtt kunna upprepa AI-generering under dokumenterade villkor och jämföra resultaten enligt fastställda kriterier.
- Beredskap för AIBeredskap för AI gäller ett projekts förutsättningar: mål, användbara data, kompetens, ansvar och ett fungerande arbetssätt för driften.
- KontextutformningKontextutformning förbereder information inför varje modellanrop: relevanta instruktioner, meddelanden, källor och aktuella tillstånd.
- AnomalidetektionMetoder som markerar ovanliga observationer jämfört med en fastställd referens eller ett inlärt mönster.
Artiklar om ämnet
AI & automatisering med ASES
AI-assistenter och automatiserade flöden