Seminario

Quantitative Gaussian approximation of randomly initialized deep neural networks

Seminario periodico del Dipartimento di Matematica
14 ottobre 2022
Orario di inizio 
14:00
PovoZero - Via Sommarive 14, Povo (Trento)
Aula seminari "-1" (Povo 0) e via Zoom (contattare dept.math@unitn.it per le credenziali)
Destinatari: 
Comunità universitaria
Comunità studentesca UniTrento
Partecipazione: 
Ingresso libero
Online
Email per prenotazione: 
Referente: 
Prof. Gian Paolo Leonardi
Contatti: 
Università degli Studi Trento 38123 Povo (TN) - Staff Dipartimento di Matematica
+39 04 61/281508-1625-1701-1980-3898
Speaker: 
Dario Trevisan (Università di Pisa)

Abstract: Given any deep fully connected neural network, initialized with random Gaussian parameters, we bound from above the quadratic Wasserstein distance between its output distribution and a suitable Gaussian process. Our explicit inequalities indicate how the hidden and output layers sizes affect the Gaussian behaviour of the network and quantitatively recover the distributional convergence results in the wide limit, i.e., if all the hidden layers sizes become large. Joint work with with A. Basteri (arXiv:2203.07379).