Förklarbar artificiell intelligens, 5 hp

Huvudområde med fördjupning

Högskoleingenjörsexamen i datateknik inklusive ett självständigt arbete 15 hp eller Teknologie kandidatexamen i huvudområdet datateknik inklusive ett självständigt arbete 15 hp. 7,5 hp programmering och 7,5 hp matematik inklusive linjär algebra. Engelska 6. Undantag ges för kravet på svenska.

Kursen ges som en fristående kurs.

Kursens mål är att studenten utvecklar kunskaper och färdigheter inom en mängd olika aspekter inom förklarbar AI (XAI) inklusive: behovet av och vikten av att förklara olika AI-metoder, taxonomin för XAI och klassiska och välkända XAI-metoder. Studenten ska utveckla kunskap av både teoretiska och praktiska slag.

Efter avslutad kurs ska studenten kunna:

Kunskap och förståelse

• redogöra för kategorisering av XAI-metoder
• redogöra för olika välkända XAI-metoder
• diskutera olika mätetal för att utvärdera XAI-metoder

Färdighet och förmåga

• självständigt implementera XAI-metoder för en given AI-metod för att öka förklarbarheten
• utifrån givna ramar välja en relevant XAI-metod för en given AI-metod
• avväga mellan olika aspekter inom XAI såsom modellprestanda och förklaringsbarhet

Värderingsförmåga och förhållningssätt

• utvärdera XAI-metoder utifrån olika egenskaper inklusive precision & trohet, robusthet, osäkerhet och representativitet
• utvärdera kvaliteten på artificiell intelligens förklaringen utifrån ett mänskligt perspektiv genom att överväga egenskaper såsom begriplighet, selektivitet och kontrastivitet

Kursen omfattar följande ämnen:

• Introduktion till förklarbar AI, vad XAI är, varför det är viktigt samt relaterade terminologier
• Bred taxonomi av XAI-metoder inklusive Intrinsic jämfört med post hoc, modellspecifik jämfört med modellagnostisk och lokal jämfört med global
• Avvägning mellan noggrannhet och förklarbarhet samt förklaringar som är anpassade till mänsklig förståelse
• Egenförklarbara modeller inklusive linjär regression, logistisk regression, generaliserad linjär modell (GLM), generaliserad additiv modell (GAM) och beslutsträd.
• XAI-metoder inklusive, Partial Dependence Plot (PDP), Conformal Prediction, Individual Conditional Expectation (ICE), Feature Importance, Saliency Maps, Local Interpretable Model-Agnostic Explanations (LIME), SHAP, Integrated Gradient (IG)
• Utvärdering av förklaringsbarhet

Både föreläsningar och laborationer kommer att hållas online. Laborationerna är designade i Python och utvecklade för att göra de koncept som ges under föreläsningarna förklarbara. Videor av föreläsningarna kommer också att läggas ut online via högskolans lärplattform för lärande i egen takt.

Undervisningen är på engelska och helt online.

Examination sker genom laborationer och skriftlig tentamen. Laborationer utförs i Python och inlämnas i form av Jupyter Notebooks.

Om särskilda skäl finns får examinator göra undantag från angiven examinationsform och medge att en student examineras på annat sätt. Särskilda skäl kan till exempel vara beslut om riktat pedagogiskt stöd.

I kursen ingår kursvärdering. Denna är vägledande för utveckling och planering av kursen. Kursvärderingen dokumenteras och redovisas för studenterna.