Docente

Gloria Menegaz

Referente

Gloria Menegaz

Crediti

2,5

Lingua di erogazione

Inglese

Frequenza alle lezioni

Scelta Libera

Sede

VERONA

Moodle Seminari 0

Obiettivi di apprendimento

L’Intelligenza Artificiale è diventata uno strumento fondamentale in campi come la biomedicina e le neuroscienze, dalla scoperta di nuovi biomarcatori numerici a supporto della diagnosi. Negli ultimi decenni, ampie collaborazioni multidisciplinari e studi multimodali a lungo termine come, ad esempio, ADNI, ENIGMA e UK Biobank, hanno reso possibile l’accesso a grandi archivi di diversi tipi di dati tra cui immagini e informazioni genetiche. Tale disponibilità designa l’apprendimento profondo come strumento essenziale per rappresentare le complesse relazioni alla base di molti processi biologici. Tuttavia, nonostante gli innegabili vantaggi dei modelli di deep learning, la complessità della loro architettura rende necessario definire metodi che consentano di “aprire il black bo” e ottenere spiegazioni che favoriscano l’interpretabilità. Questo aspetto è fondamentale in particolar modo in ambiti critici quale quello biomedicale, in relazione all’applicazione alla medicina, alla sanità e alle neuroscienze.
Per questo motivo, l’eXplainable Artificial Intelligence (XAI) è fondamentale per spiegare come il modello ha raggiunto un risultato specifico, come in che misura il modello sia affidabile e le spiegazioni robuste e plausibili.
Il corso mira a fornire agli studenti la conoscenza dei modelli spiegabili allo stato dell'arte maggiormente utilizzati sul campo, fornendo sia basi teoriche che strumenti implementativi. In particolare, gli studenti impareranno come gestire l'intelligenza artificiale spiegabile quando applicata per interpretare modelli di deep learning valutati per estrarre informazioni da dati multidimensionali, eterogenei e rumorosi.

Prerequisiti e nozioni di base

Fondamenti di elaborazione di segnali e immagini, fondamenti di machine learning. Python.

Programma

Parte I: Promesse
Intelligenza Artificiale spiegabile da zero
• Un accenno a modelli di spiegabilità post-hoc agnostici (ad esempio importanza delle feature, occlusioni)
• Reti neurali alla luce della spiegabilità (ad esempio metodi di visualizzazione, metodi di attribuzione, metodi basati sul gradiente)
Parte 2: Sfide
• Validazione dei risultati XAI

Bibliografia

Modalità didattiche

In presenza.

Modalità di verifica dell'apprendimento

Progetto relativo agli argomenti trattati.

Valutazione

Analisi critica dei metodi appresi
Capacità di applicare i metodi appresi a problemi concreti
Qualità dell'esposizione

Criteri di composizione del voto finale

Approvato/Non approvato