Explainable Artificial Intelligence
Programma
Introduzione al Corso - Motivazione per XAI - Cos'è una spiegazione - Il ruolo della “Spiegazione” nel nuovo processo di ML: le linee guida di valutazione per l'affidabilità (2h)
La tassonomia dei metodi XAI per il Machine Learning - Panoramica dei metodi di spiegazione (2h)
Panoramica dei metodi di spiegazione post-hoc e delle metriche di valutazione (2h)
Metodi post-hoc (su dati di immagini) - IntGrad, Lime, GRADCAM(++), SmoothGRAD (2h)
Metodi post-hoc (su dati di immagini) - Metodi post-hoc utilizzando lo spazio latente (esempi e controesempi) - ABELE (2h)
Ragionamento contrastivo: controfattuali e causalità (2h)
Esercitazione pratica: metodi XAI dalla libreria XAI – Metodi post-hoc (tabulari) (Lore, Lime, Anchor, Shap) (4h)
Panoramica dei metodi di spiegazione trasparenti by design (2h)
Panoramica dei metodi di spiegazione trasparenti per design - Spiegazione per design & Spiegatore Globale: EBM, Tlace, TREPAN, GlocalX, Protonet, Modelli Interpretabili (2h)
Esercitazione pratica: metodi post-hoc (immagini) – presentazione del progetto - IntGrad, Lime, GRADCAM(++), SmoothGRAD (4h)
XAI interattivo - seminario (2h)
Spiegazione per design con iniezione di conoscenza - seminario (2h)
Esercitazione pratica: metodi globali e progetto (2h)
Obiettivi formativi
Sistemi di IA a opachi per il processo decisionale automatizzato, spesso basati sull'apprendimento automatico su grandi quantità di dati, mappano le caratteristiche di un utente in una classe o in un punteggio senza motivare o spiegare il ragionamento seguito dalla macchina. Questo è problematico non solo per la mancanza di trasparenza, ma anche per i possibili bias ereditati dagli algoritmi dai pregiudizi umani e dagli artefatti di raccolta nascosti nei dati di addestramento, che possono portare a decisioni ingiuste o errate. Il futuro dell'IA risiede nella capacità di consentire alle persone di collaborare con le macchine per risolvere problemi complessi. Come qualsiasi collaborazione efficiente, ciò richiede una buona comunicazione, fiducia, chiarezza e comprensione. L'IA spiegabile affronta tali sfide e da anni diverse comunità di IA hanno studiato questo argomento, portando a diverse definizioni, protocolli di valutazione, motivazioni e risultati. Questo corso (30 ore) fornisce un'introduzione ragionata al lavoro svolto finora nell'ambito dell'IA spiegabile (XAI) e passa in rassegna la letteratura con un focus sugli approcci legati all'apprendimento automatico e all'IA simbolica. Motiveremo le esigenze di XAI nelle applicazioni reali e su larga scala, presentando tecniche all'avanguardia e le migliori pratiche, oltre a discutere le numerose sfide aperte. Una piattaforma XAI con una raccolta di molti degli algoritmi recentemente proposti sarà presentata su casi d'uso specifici e sarà possibile familiarizzare con alcuni dei metodi.
Moduli
| Modulo | Ore | CFU | Docenti |
|---|---|---|---|
| Didattica integrativa | 20 | 0 | Gizem Gezici, Roberto Pellungrini |
| Explainable Artificial Intelligence | 20 | 3 | Fosca Giannotti |