Evaluation d'algorithmes en précision mixte sur GPU pour un solveur dense

Mathématiques, information  scientifique, logiciel Stage - Bac+5 - Evaluation d'algorithmes en précision mixte sur GPU pour un solveur dense - H/F L'unité d'accueil située au CEA/CESTA élabore des modèles physico-numériques multi physiques, multi-échelles et développe des codes de calcul dans les domaines de l’aérodynamique hypersonique, de l’électromagnétisme et de la dynamique rapide. Ces développements bénéficient des approches les plus modernes du génie logiciel et sont conduits dans le contexte du calcul haute performance afin de tirer le meilleur parti des supercalculateurs de la DAM. Lors de ce stage, vous serez amené(e) à travailler sur un solveur linéaire dense à coefficients complexes pour résoudre des problèmes d'électromagnétisme. Du aux besoins de l'IA, le nombre d'unités de calcul en faible précision sur les nouveaux modèles de GPU ne cesse d'augmenter d'une génération à l'autre. Il devient donc crucial d'exploiter ces unités pour améliorer les performances du solveur sur ces architectures, tout en maintenant une haute précision sur les résultats, critique pour les applications scientifiques Des travaux précédents ont montré que l'introduction d'algorithmes en précision mixte dans le solveur permettent d'améliorer les performances tout en maintenant une précision suffisante. Cependant, les bibliothèques d'algèbre linéaire optimisées fournies par les vendeurs (e.g. cuBLAS/rocBLAS) n'offrent qu'un support très limité pour la précision mixte en arithmétique complexe. Une première stratégie pour résoudre ce problème consiste en l'implémentation de noyaux en précision mixte complexe optimisés à l'aide de librairies telles que CUTLASS. La seconde stratégie envisagée consiste en la réécriture des algorithmes complexes en une succession de noyaux réels (approche 3M), qui nous permettrait donc de bénéficier des routines en précision mixte des bibliothèques des vendeurs. Le(la) candidat(e) aura pour mission d'implémenter ces stratégies dans le solveur afin d'évaluer leurs performances et leur précision. En fonction du temps et des préférences du(de la) candidat(e), on pourra également explorer l'utilisation de méthodes d'émulation flottante de type BF16x9 ou Ozaki qui permettent d'émuler des hautes précisions à partir de calculs en faibles précisions. Conformément aux engagements pris par le CEA en faveur de l'intégration des personnes handicapées, cet emploi est ouvert à toutes et à tous. Le CEA propose des aménagements et/ou des possibilités d'organisation pour l’inclusion des travailleurs handicapés. Participant à la protection nationale, une enquête administrative est réalisée pour tous les collaborateurs du CEA afin d'assurer l'intégrité et la sécurité de la nation. Calcul Haute Performance, Parallélisme, Programmation GPU Bac+5