États-Unis
Deloitte
True Talent Solutions Partners
Membre de l'équipe technique, Systèmes ML
États-Unis
Menlo Park, California, États-Unis
Traduction automatique. Consultez l’original.
À propos du poste
Rejoignez une équipe IA/ML qui développe des systèmes d'entraînement et d'inférence haute performance pour des charges de travail liées à l'image, à la vidéo et aux modèles de monde. Vous améliorerez la vitesse et l'efficacité au niveau des noyaux GPU, de l'exécution distribuée et du service multi-nœuds.
Vos missions
- Optimiser les performances d'entraînement et d'inférence pour les charges de travail liées à l'image, à la vidéo et aux modèles de monde.
- Utiliser Nsight et les outils associés pour identifier les goulots d'étranglement au niveau des noyaux, de la mémoire, des systèmes et des clusters.
- Implémenter des optimisations GPU bas niveau avec CUDA et Triton.
- Concevoir et améliorer les moteurs d'entraînement et d'inférence distribués pour les modèles de diffusion.
- Améliorer les performances de communication entre les GPU et les nœuds en utilisant NCCL, RDMA, InfiniBand ou RoCE.
- Créer des benchmarks et des tests de régression pour garantir que les améliorations de performance sont maintenues en production.
- Co-concevoir des noyaux, des runtimes et des modèles en tenant compte des caractéristiques matérielles.
Profil recherché
- Au moins 2 ans d'expérience dans les systèmes d'entraînement ou d'inférence deep learning, les systèmes distribués ou des travaux connexes sur les systèmes ML.
- Au moins 1 an d'expérience pratique des systèmes ML ou de la performance GPU dans un rôle actuel ou récent.
- Expérience dans la création de fonctionnalités clés au sein d'un framework d'inférence ou d'entraînement, tel que vLLM, SGLang, TensorRT-LLM ou Megatron.
- Expérience pratique de l'écriture de noyaux CUDA, CUTLASS, Triton ou PTX pour les GPU NVIDIA.
- Solides bases en machine learning et en informatique, avec un diplôme en informatique ou dans un domaine quantitatif connexe.
- Expérience dans l'optimisation des performances d'inférence ou d'entraînement, y compris les noyaux GPU, les runtimes ou l'exécution distribuée.
- Une expérience avec les charges de travail de diffusion, vidéo, image ou autres charges multimodales est un atout.
Rémunération et avantages
- Salaire de base : $180,000 à $230,000 par an.
- Le parrainage de visa est disponible.
Localisation
Sur site à Menlo Park, Californie, États-Unis.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil