États-Unis
B&A
NVIDIA
Ingénieur Senior Communications Frameworks Deep Learning
États-Unis
Durham, North Carolina, États-Unis · Westford, Massachusetts, États-Unis · Santa Clara, California, États-Unis · Austin, Texas, États-Unis
PythonC++
Traduction automatique. Consultez l’original.
À propos du poste
NVIDIA ouvre la voie à des développements révolutionnaires en matière d'intelligence artificielle, de calcul haute performance et de visualisation. Le GPU, notre invention, sert de cortex visuel aux ordinateurs modernes et est au cœur de nos produits et services. Notre travail ouvre de nouveaux univers à explorer, permet une créativité et une découverte incroyables, et donne vie à des inventions qui n'étaient autrefois que de la science-fiction, de l'intelligence artificielle aux voitures autonomes.
Nous recherchons un ingénieur Deep Learning motivé pour intégrer des technologies de communication avancées dans les piles d'IA, y compris PyTorch, TRT-LLM, vLLM, SGLang, JAX, etc. Vous travaillerez avec l'équipe qui a créé des bibliothèques de communication comme NCCL, NVSHMEM et des technologies comme GPUDirect -- pour la mise à l'échelle des applications de Deep Learning et HPC. Vos clients auront des exigences multi-GPU diverses, allant de l'entraînement à l'échelle de 100K GPU à l'inférence à des latences de l'ordre de la microseconde. Les performances de communication entre les GPU ont un impact direct sur les applications d'IA. Votre travail dans les boîtes à outils d'IA rendra toutes ces tâches plus faciles pour la communauté. C'est une opportunité exceptionnelle pour une personne ayant une formation en IA de faire progresser l'état de l'art dans ce domaine. Êtes-vous prêt à contribuer au développement de technologies innovantes et à aider à réaliser la vision de NVIDIA ?
Ce que vous ferez : *
- Intégrer de nouvelles fonctionnalités de bibliothèques de communication dans les frameworks d'IA : du PoC à l'analyse des performances en passant par la production *
- Effectuer une analyse approfondie des charges de travail et des frameworks d'IA pour identifier les exigences et les opportunités de communication multi-GPU. Collaborer activement avec les équipes travaillant sur les derniers modèles d'IA. *
- Améliorer les compilateurs d'IA pour masquer les communications ou effectuer une fusion automatique. *
- Mener des caractérisations de performance approfondies des charges de travail d'IA sur des clusters multi-GPU. *
- Concevoir des solutions tolérantes aux pannes et élastiques pour les charges de travail d'IA à grande échelle ou dynamiques. *
- Rédiger des noyaux de communication personnalisés ou de calcul-communication fusionnés pour présenter les performances ultimes sur les plateformes NV. *
- Influencer la feuille de route des bibliothèques de communication - NCCL & NVSHMEM. *
- Collaborer avec une équipe très dynamique à travers plusieurs fuseaux horaires.
Ce que nous devons voir : *
- B.S., M.S. ou Ph.D. en informatique ou dans un domaine connexe (ou expérience équivalente) avec plus de 8 ans d'expérience en ingénierie logicielle et HPC/IA *
- Expérience de développement ou d'intégration avec des Frameworks Deep Learning tels que PyTorch, JAX, et des moteurs d'inférence comme TRT-LLM, vLLM, SGLang *
- Prototypage rapide et développement avec Python, C++, CUDA ou des DSL connexes (Triton, cuTe) *
- Solide compréhension des modèles d'IA, des parallélismes et/ou des technologies de compilateurs (par exemple, torch.compile) *
- Expérience dans la réalisation de benchmarks de performance sur des clusters d'IA. Familiarité avec au moins une chaîne d'outils de profilage de performance (profiler PyTorch, NVIDIA Nsight Systems) *
- Compréhension des concepts de communication HPC/IA (communication 1-côté vs 2-côté, élasticité, résilience, découverte de topologie, etc.) *
- Adaptabilité et passion pour l'apprentissage de nouveaux domaines et outils *
- Flexibilité pour travailler et communiquer efficacement avec différentes équipes et fuseaux horaires.
Moyens de se démarquer : *
- Expérience en programmation parallèle sur au moins un runtime de communication (NCCL, NVSHMEM, MPI). Bonne compréhension de l'architecture des systèmes informatiques, des interactions matériel-logiciel et des principes des systèmes d'exploitation (c'est-à-dire les fondamentaux des logiciels système). *
- Expertise dans un ou plusieurs des domaines suivants : Entraînement, Inférence distribuée, MoE, Apprentissage par renforcement, auteur de noyaux (sur CUDA, Triton, cuTe, etc.). Expérience en programmation pour le chevauchement calcul-communication dans les runtimes distribués. *
- Expérience avec la correspondance de motifs et la réduction dans les compilateurs d'IA. Solide compréhension de la hiérarchie mémoire, du modèle de cohérence et de la disposition des tenseurs.
Votre salaire de base sera déterminé en fonction de votre localisation, de votre expérience et de la rémunération des employés occupant des postes similaires. La fourchette de salaire de base est de 184,000 USD - 287,500 USD pour le niveau 4, et de 224,000 USD - 356,500 USD pour le niveau 5.
Les candidatures pour ce poste seront acceptées au moins jusqu'au 17 octobre 2026.
Cette offre concerne un poste vacant existant.
NVIDIA utilise des outils d'IA dans ses processus de recrutement.
NVIDIA s'engage à favoriser un environnement de travail inclusif et est fier d'être un employeur garantissant l'égalité des chances. Comme nous accordons une grande importance à la diversité de nos employés actuels et futurs, nous ne faisons aucune discrimination (y compris dans nos pratiques d'embauche et de promotion) fondée sur la race, la religion, la couleur, l'origine nationale, le sexe, l'expression de genre, l'orientation sexuelle, l'âge, l'état civil, le statut d'ancien combattant, le statut de handicap ou toute autre caractéristique protégée par la loi.
Vous serez également éligible aux actions et aux avantages sociaux nvidia.com/en-us/benefits/.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil