Explainable Artificial Intelligence

I sistemi di intelligenza artificiale a scatola nera per il processo decisionale automatizzato, spesso basati sull'apprendimento automatico su (grandi) dati, mappano le caratteristiche di un utente in una classe o in un punteggio senza rivelarne le ragioni. Ciò è problematico non solo per la mancanza di trasparenza, ma anche per i possibili pregiudizi ereditati dagli algoritmi dai pregiudizi umani e dagli artefatti di raccolta nascosti nei dati di addestramento, che possono portare a decisioni ingiuste o sbagliate. Il futuro dell'IA sta nel permettere alle persone di collaborare con le macchine per risolvere problemi complessi. Come ogni collaborazione efficiente, questo richiede una buona comunicazione, fiducia, chiarezza e comprensione. L'IA spiegabile affronta queste sfide e per anni diverse comunità di IA hanno studiato questo argomento, portando a definizioni, protocolli di valutazione, motivazioni e risultati diversi.  Questo corso (30 ore) fornisce un'introduzione ragionata al lavoro di Explainable AI (XAI) fino ad oggi, e passa in rassegna la letteratura con un focus sugli approcci post-hoc e by-design. Motiviamo le esigenze della XAI nelle applicazioni reali e su larga scala, presentando le tecniche più avanzate e le migliori pratiche, oltre a discutere le numerose sfide aperte. Verrà presentata una piattaforma XAI con una raccolta di molti degli algoritmi recentemente proposti su casi d'uso specifici e sarà possibile familiarizzare con alcuni dei metodi. Il corso è organizzato in tre moduli: i) uno introduttivo che fornisce le motivazioni, i concetti principali e i principali metodi; ii) uno avanzato in cui gli studenti parteciperanno attivamente ad argomenti monografici con letture intervallate da interventi di studiosi internazionali che lavorano nel settore; iii) un modulo pratico in cui gli studenti saranno introdotti all'uso dei metodi XAI.