La prochaine séance du séminaire Mathematic Park aura lieu le samedi 5 avril à 15h à l’Institut Henri Poincaré (11 rue Pierre et Marie Curie à Paris). Nous accueillerons Borjan Geshkovski (Inria Paris). Le résumé de l’exposé peut être trouvé ci-dessous.
Comme toujours, ce séminaire s'adresse aux étudiant·e·s à l'Université (tout niveau) et en classes préparatoires, ainsi qu'aux enseignant·e·s aussi bien en lycée, en classes préparatoires ou à l'université. Il pourra également intéresser certain·e·s bon·ne·s élèves de terminale. Son but est de présenter des mini-cours sur des sujets variés en mathématiques d'une durée d'environ 1h30. Les exposés sont suivis d'une collation conviviale.
Titre : Les mathématiques derrière ChatGPT
Vous trouverez ici les informations et le formulaire d'inscription (gratuite mais obligatoire).
Le séminaire devrait être retransmis à l’adresse suivante .
Dans la mesure du possible, les exposés sont également archivés en vidéo, voir sur le site.
Pour retrouver toutes les informations du séminaire Mathématic Park, notamment les prochains exposés : ici.
Résumé :
Derrière les chatbots comme ChatGPT ou le Chat se cachent de grands réseaux de neurones entraînés sur des quantités massives de données, appelés Transformers. Il se trouve que ces réseaux peuvent être interprétés comme des systèmes de particules en interaction, où les mots jouent le rôle de particules et les couches du réseau celui du temps. Cette interprétation met en évidence des liens féconds entre ces réseaux et des modèles de gaz comme le modèle de Coulomb, des systèmes d’oscillateurs comme celui de Kuramoto, ainsi que de nombreuses questions de combinatoire (empilement compact), contribuant ainsi à mieux comprendre pourquoi ces modèles fonctionnent.