Due grandi tendenze attuali sono la «geometrizzazione» e la «probabilizzazione» dei campi tecnici e scientifici. Nata a metà del 20º secolo, la geometria dell’informazione si colloca all’incrocio fra le due, attraverso la metrica di Fisher–Koszul–Souriau (vedi FOCUS). Consiste nell’introdurre una distanza fra elementi di uno spazio di probabilità, dotato di una struttura metrica. Questa distanza può quindi essere definita fra due variabili aleatorie indipendenti oppure, in modo equivalente, fra due densità di probabilità (associate a queste due variabili). Il matematico giapponese Shun-ichi Amari (nato nel 1936), che sviluppò i suoi strumenti con il russo Nicolai N. Chentsov, ricevette dall’imperatore l’Ordine della cultura nel 2019.
Un successo planetario --------------------
La geometria dell’informazione conosce oggi un successo planetario. Una ricerca su Google per «Information Geometry» restituisce 186 000 risultati! In Francia, il gruppo di ricerca CNRS ISIS (Information, signal, image et vision) organizzò nel 2019 una scuola estiva a Peyresq (Alpes-de-Haute-Provence), che dovette respingere alcune richieste di iscrizione. Il laboratorio d’eccellenza Centre international de mathématiques et d’informatique (CIMI) e l’Institut mathématique de Toulouse (Haute-Garonne) hanno dedicato all’argomento un intero trimestre. Gli atti delle edizioni 2013, 2015, 2017 e 2019 della conferenza «Geometric Science of Information» comprendono quattro volumi, ciascuno di quasi novecento pagine, pubblicati da Springer, che ha inoltre lanciato una rivista specializzata dedicata a questo tema.
La geometria dell’informazione è utilizzata in particolare per comprendere gli «spazi latenti» nell’apprendimento profondo e per realizzare modelli generativi. Nelle imprese, la geometria dell’informazione è divenuta uno strumento diffuso nell’IA: i GAFAMI (Google, Amazon, Facebook, Apple, Microsoft, IBM) usano il gradiente naturale associato alla metrica di Fisher nei loro strumenti di apprendimento profondo.
Di recente, Yann Ollivier, medaglia di bronzo del CNRS, è stato assunto da Facebook AI Paris soprattutto per i suoi lavori sul gradiente naturale. Altri matematici, come Guillaume Desjardins e James Martens, impiegati presso Google Deepmind, o Takayuki Osogami, che lavora per IBM Research, hanno adattato il gradiente naturale della geometria dell’informazione al deep learning. Gaetan Marceau Caron, già dottorando presso Thales e recentemente assunto dal Montréal Institute for Learning Algorithms (MILA) in Canada, ha combinato il gradiente naturale con il gradiente stocastico di Langevin per definire un gradiente «natural Langevin dynamics», che permette di regolarizzare l’apprendimento delle reti profonde. In realtà, il machine learning è per sua natura profondamente geometrico.