Numerical Analysis and Optimization
Prerequisiti
E` richiesta un'ottima conoscenza dell'algebra lineare. E` opportuno avere gia` dimestichezza con gli aspetti basilare del calcolo numerico e della programmazione.
Il corso e` orientato agli studenti del 1mo anno di dottorato, ma e` accessibile anche a studenti del corso di laurea magistrale.
Programma
Parte I, Metodi numerici per problemi di algebra lineare:
Richiami di algebra lineare.
Norme matriciali. Decomposizione ai valori singolari (SVD).
Stabilita` e condizionamento in algebra lineare numerica. Rango numerico.
Fattorizzazioni LU, di Cholesky e QR.
Metodi diretti e iterativi per sistemi lineari.
Problemi di minimi quadrati. Pseuodinversa di Moore-Penrose.
Calcolo di autovalori e autovettori di matrici.
Parte II, Metodi di ottimizzazione numerica:
Ottimizzazione non vincolata
-Metodi del gradiente, di Newton, quasi-Newtoniani, di Nesterov.
-Tecniche di globalizzazione.
Ottimizzazione vincolata
-Metodo dei moltiplicatori di Lagrange e della Lagrangiana aumentata.
-Metodi di punto interno.
-Sistemi KKT.
-Il metodo ADMM.
-LASSO, Basis Pursuit, etc
Obiettivi formativi
Fornire agli studenti gli strumenti teorici e algoritmici per la soluzione di problemi di algebra lineare e di ottimizzazione.
Riferimenti bibliografici
J. Demmel, Applied Numerical Linear Algebra, SIAM, 1997.
A. Bjorck, Numerical Methods in Matrix Computation, Springer, 2015.
J. Nocedal and S. Wright, Numerical Optimization, Springer, 1999.