Explainable Artificial Intelligence
Programma
1) Modulo 1 (10 ore): Corso intensivo sull’XAI.
a. Motivazioni alla base dell’XAI:
i. Perché la spiegazione e che cos’è una spiegazione
ii. La tassonomia dei metodi XAI per l’apprendimento automatico
b. Panoramica sui metodi di spiegazione post hoc
c. Panoramica sui metodi trasparenti fin dalla progettazione
2) Modulo 2 (10 ore): Concetti avanzati
a. Spiegazioni controfattuali
b. Spiegazione “by design” – argomentazione e grafo di conoscenza
c. Spiegazione “by design” e Global Explainer: sull’integrazione di approcci simbolici e sub-simbolici
d. XAI interattiva – le nuove sfide di ricerca nell’XAI
e. Seminari degli studenti
3) Modulo 3 (10 ore): Esercitazioni pratiche: sui metodi XAI. (A cura di Roberto Pellungrini)
a. Agli studenti verrà presentata la libreria Python dei metodi XAI-Lib per i dati tabulari (4 ore)
b. Agli studenti verrà presentata la libreria Python dei metodi XAI per i dati immagine (4 ore)
c. Agli studenti verrà presentato un metodo di spiegazione globale (2 ore)
Obiettivi formativi
Questo corso (di 30 ore) offre un’introduzione approfondita al lavoro svolto finora nel campo dell’Intelligenza Artificiale Spiegabile (XAI) e passa in rassegna la letteratura specialistica, concentrandosi in particolare sugli approcci post-hoc e by-design. Illustriamo le esigenze dell’XAI nelle applicazioni reali e su larga scala, presentando al contempo le tecniche all’avanguardia e le migliori pratiche, oltre a discutere le numerose sfide ancora aperte. Verrà presentata una piattaforma XAI che raccoglie molti degli algoritmi proposti di recente, con riferimento a casi d’uso specifici, e sarà possibile familiarizzare con alcuni di questi metodi.
Il corso è organizzato nei seguenti tre moduli: i) un modulo introduttivo che fornisce motivazioni, concetti fondamentali e metodi principali; ii) un modulo avanzato in cui gli studenti parteciperanno attivamente all’approfondimento di argomenti specifici, con letture intervallate da interventi di studiosi internazionali che operano nel settore; iii) un modulo pratico in cui gli studenti saranno introdotti all’utilizzo dei metodi XAI.
Moduli
| Modulo | Ore | CFU | Docenti |
|---|---|---|---|
| Explainable Artificial Intelligence | 20 | 3 | Fosca Giannotti |
| Didattica integrativa | 10 | 0 | Roberto Pellungrini |