États-Unis
B&A
NVIDIA
Ingénieur Logiciel Système Senior - Serveur d'Inférence Dynamo-Triton
États-Unis
California, États-Unis · Washington, États-Unis · California, États-Unis
PythonC++Rust
Traduction automatique. Consultez l’original.
À propos du poste
Nous recherchons un Ingénieur Logiciel Système Senior pour travailler sur le serveur d'inférence Dynamo-Triton developer.nvidia.com/dynamo-triton.
NVIDIA recrute des ingénieurs logiciels pour son équipe logicielle deep learning accélérée par GPU. Des groupes universitaires et commerciaux du monde entier utilisent les GPU pour alimenter une révolution dans l'IA, permettant des avancées dans des problèmes allant de la classification d'images à la reconnaissance vocale en passant par le traitement du langage naturel. Nous sommes une équipe dynamique construisant une plateforme d'inférence IA hautement performante pour rendre la conception et le déploiement de nouveaux modèles IA plus faciles et accessibles à tous les utilisateurs.
Ce que vous ferez
- Développer un logiciel de service d'inférence IA accéléré par GPU de classe mondiale.
- Contribuer au développement de fonctionnalités et stimuler une large adoption par les clients.
- Piloter la convergence des serveurs d'inférence Triton et des piles Dynamo de NVIDIA pour établir une plateforme d'inférence unifiée et haute performance. Cette plateforme assurera la parité des fonctionnalités et servira efficacement les charges de travail de grands modèles linguistiques (LLM) et non-LLM.
- Être un membre actif de la communauté d'ingénierie logicielle deep learning open source github.com/triton-inference-server/server.
- Équilibrer une variété d'objectifs tels que la construction de logiciels robustes conçus pour être déployés dans des environnements de serveurs de production ou cloud, l'optimisation et l'équilibrage du débit et de la latence des prédictions, et le développement et l'adoption de la prochaine génération de technologies d'inférence.
Prérequis
Ce que nous devons voir
- Master ou Doctorat en Informatique ou domaine pertinent (ou expérience équivalente).
- 5+ années d'expérience professionnelle dans le domaine des logiciels deep learning.
- Excellentes compétences en Rust et C++, familiarité avec Python, et solides compétences en programmation et conception logicielle, y compris le débogage, l'analyse de performance et la conception de tests.
- Expérience avec les systèmes distribués à grande échelle et les systèmes ML.
- Solides compétences en communication et capacité à travailler dans un environnement d'équipe agile et au rythme rapide.
Moyens de vous démarquer
- Expérience préalable avec des frameworks et moteurs IA, tels que TensorRT, PyTorch, ONNX, OpenVINO, vLLM, ou TRT-LLM.
- Connaissance de la gestion de la mémoire GPU, de la gestion du cache ou du réseau haute performance.
- Expérience en programmation de systèmes distribués.
- Expérience dans la contribution à un grand projet open source : utilisation de GitHub, suivi des bogues, gestion des branches et des fusions de code, gestion des licences OSS, traitement des correctifs, etc.
Votre salaire de base sera déterminé en fonction de votre localisation, de votre expérience et de la rémunération des employés occupant des postes similaires. La fourchette de salaire de base est de 152,000 USD - 241,500 USD pour le niveau 3, et de 184,000 USD - 287,500 USD pour le niveau 4.
Vous serez également éligible à des actions et des avantages sociaux nvidia.com/en-us/benefits/.
Les candidatures pour ce poste seront acceptées au moins jusqu'au 6 juillet 2026.
Cette offre concerne un poste vacant existant.
NVIDIA utilise des outils d'IA dans ses processus de recrutement.
NVIDIA s'engage à favoriser un environnement de travail inclusif et est fier d'être un employeur garantissant l'égalité des chances. Comme nous accordons une grande importance à la diversité de nos employés actuels et futurs, nous ne faisons aucune discrimination (y compris dans nos pratiques d'embauche et de promotion) fondée sur la race, la religion, la couleur, l'origine nationale, le sexe, l'expression de genre, l'orientation sexuelle, l'âge, l'état civil, le statut d'ancien combattant, le statut de handicap ou toute autre caractéristique protégée par la loi.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil