Offre de thèse au sein de l'équipe OCKHAM, co-encadrée par Mathurin Massias (CR INRIA) et Quentin Bertrand (CR Inria, équipe Malice). Détails scientifiques de l'offre : https://mathurinm.github.io/assets/pdf/phd_gen.pdf
Missions
Les modèles génératifs sont une branche de l'apprentissage automatique qui vise à capturer la structure sous-jacente d'une distribution de données empirique afin de produire de nouveaux échantillons réalistes. Contrairement aux tâches traditionnelles de classification, qui apprennent des frontières de décision pour catégoriser les entrées, les modèles génératifs sont conçus pour créer de nouveaux échantillons synthétiques qui ressemblent à ceux de l'ensemble d'entraînement.
Les modèles génératifs comprennent notamment les autoencodeurs variationnels, les réseaux antagonistes génératifs (GAN) et les modèles de diffusion. Ces approches ont démontré un succès remarquable dans la synthèse de données réalistes dans des domaines très variés. Aujourd'hui, les modèles génératifs les plus avancés sont capables de produire des contenus multimodaux pratiquement indiscernables de ceux créés par des humains, qu'il s'agisse de texte, d'images, d'audio ou de vidéos.
Le modèle génératif idéal devrait être facile à entraîner, produire des échantillons de haute qualité et permettre une génération rapide. Les méthodes récemment proposées, telles que les modèles de diffusion et le conditional flow matching, sont particulièrement stables pendant l'entraînement et ont montré une remarquable efficacité pratique en termes de complexité d'échantillonnage : les modèles génératifs profonds modernes, comptant plusieurs millions de paramètres, semblent capables de générer de nouvelles images même à partir de jeux de données d'entraînement de taille modérée, par exemple de l'ordre de 10 000 images.
L'objectif de la thèse est de mieux comprendre pourquoi les modèles de diffusion et de flow matching présentent une capacité de généralisation aussi remarquable.
Responsabilités : La personne recrutée effectuera dans un premier temps un travail de bibliographie sur les références jointes à l'offre de thèse, avant d'implémenter les premieres approches envisagéés, de les benchmarker et de les perfectionner empiriquement. En paralèlle, une étude théorique des modèles de flow matching et de diffusion sera menée.
