Doctorant – Analyse topologique des données pour l’évaluation et la détection d’anomalies dans les modèles d’Intelligence Artificielle

Type de contrat : CDD Contexte et atouts du poste Dans le cadre du programme national d'évaluation de l'IA (EVALIA) L'objectif est de développer des outils mathématiques effectifs et venant avec des garanties théoriques pour étudier, détecter et caractériser des comportement anormaux (hallucinations, attaques, etc...) de modèles d’apprentissage profond complexes, avec une attention particulière portée aux architectures à base de mécanismes d’attention, de type transformers. La méthodologie adoptée reposera sur une approche combinant Analyse Topologique des données [?] et méthodes statistiques. Mission confiée Missions : S’appuyant sur les compétences complémentaires du LMO (Laboratoire de Mathématiques d’Orsay) en apprentissage statistique et sur l’expertise de l’équipe DataShape (INRIA Saclay) en inférence géométrique et analyse topologique des données (TDA), la personne recrutée mènera des recherches couvrant les différents aspects de cette thématique ainsi que ses applications. Le programme de recherche s’articulera autour de deux axes principaux. Le premier (Axe 1) portera sur l’étude des structures d’activation des réseaux de neurones (graphes, matrices d’attention...), le second (Axe 2) portera sur l’analyse topologique dynamique de l’évolution des distribution de données à travers les espaces latents. L'encadrement de ce projet de thèse sera assuré par Frédéric Chazal et Gilles Blanchard. Principales activités Après une première étude bibliographique, la première année sera essentiellement consacrée à l’Axe 1. Le travail de recherche de l’Axe 2 débutera la seconde année en parallèle de la continuation de l’Axe 1. La troisième année sera consacré à la finalisation des travaux réalisés dans les 2 axes et à l’exploration d’éventuelles nouvelles directions de recherche qui seraient apparues pendant les années 1 et 2. Elle sera aussi consacré à la finalisation de l’implémentation d’outils effectifs publiquement disponibles qui pourront être intégrés à la bilbiothèque open source Gudhi développée par DataShape. Compétences Etre titulaire d'un Master en Mathématiques  Avoir de solides connaissances et compétences en topologie, statistique et machine learning. Inria, l'institut national de recherche dans les sciences et technologies du numérique, est en appui de l’État pour les stratégies nationales de recherche et d’innovation du numérique en tant qu'Agence de programmes. Inria mène plus de 300 projets de recherche et d’innovation avec ses 3500 scientifiques, ingénieurs et personnels d’appui, en partenariat avec les universités et l’écosystème numérique (entreprises, entrepreneurs, acteurs publics). Ensemble, nous explorons des domaines clés comme l'intelligence artificielle, la cybersécurité, l’informatique quantique, le Cloud, la transformation numérique de la santé, les jumeaux numériques ou encore les technologies numériques pour la défense. Nous construisons des solutions concrètes telles que des logiciels, des startups technologiques, des partenariats avec les entreprises du tissu national et des formations de pointe. Notre objectif : l’impact scientifique, technologique et industriel au service de la souveraineté numérique de la France.