États-Unis
Booz Allen Hamilton
CoreWeave
Ingénieur Principal - Performance et Benchmarking
États-Unis
Bellevue, Washington, États-Unis
Kubernetes
Traduction automatique. Consultez l’original.
À PROPOS DE CE RÔLE
CoreWeave est The Essential Cloud for AI™.
Conçu par des pionniers pour des pionniers, CoreWeave propose une plateforme de technologie, d'outils et d'équipes qui permet aux innovateurs de construire et de faire évoluer l'IA en toute confiance. Approuvé par les principaux laboratoires d'IA, startups et entreprises mondiales, CoreWeave combine des performances d'infrastructure supérieures avec une expertise technique approfondie pour accélérer les découvertes et transformer la puissance de calcul en capacité. Fondée en 2017, CoreWeave est devenue une société cotée en bourse (Nasdaq : CRWV) en mars 2025. Pour en savoir plus, visitez coreweave.com coreweave.com/.
Nous recherchons un Ingénieur Principal pour diriger techniquement l'équipe Benchmarking & Performance de CoreWeave. Vous serez responsable de notre entrepôt de données de performance à l'échelle planétaire : ingestion, stockage, transformation et analyse des événements de performance dans tous les centres de données de notre infrastructure mondiale. Vous jouerez également un rôle essentiel dans la publication de benchmarks de performance de bout en bout, leaders du secteur : Si MLPerf (Entraînement et Inférence), en travaillant en étroite collaboration avec NVIDIA (Megatron-LM, TensorRT-LLM et DGX cloud) et la communauté open-source (llm-d, vLLM et tous les frameworks ML populaires) vous parlent, venez nous aider à démontrer le leadership de CoreWeave en matière de fiabilité de performance dans ce domaine.
Ce que vous ferez
- Stratégie et Leadership - Définir la stratégie et la feuille de route de benchmarking pluriannuelle ; prioriser les modèles/charges de travail (LLMs, diffusion, vision, parole) et les niveaux de matériel. Construire, diriger et encadrer une équipe performante d'ingénieurs en performance et d'analystes de données. Établir la gouvernance des affirmations : méthodologies documentées, versioning, reproductibilité et pistes d'audit.
- Propriété de la Performance - Diriger les soumissions MLPerf Inférence et Entraînement de bout en bout : sélection des charges de travail, planification des clusters, runbooks, audits et publication des résultats. Coordonner les pistes d'optimisation avec NVIDIA (CUDA, cuDNN, TensorRT/TensorRT-LLM, Triton, NCCL) pour obtenir des résultats compétitifs ; piloter les corrections en amont si nécessaire.
- Benchmarks Internes de Latence et Débit - Concevoir un service de benchmarking répétable, natif Kubernetes, qui exploite les piles CoreWeave via SUNK (Slurm sur Kubernetes), Kueue et les pipelines Kubeflow. Mesurer et rapporter la latence p50/p95/p99, la gigue, les tokens/s, le temps jusqu'au premier token, le démarrage à froid/chaud, et le coût par token/requête sur les modèles, les précisions (BF16/FP8/FP4), les tailles de batch et les types de GPU. Maintenir un corpus de scénarios représentatifs (streaming, batch, multi-tenant) et d'ensembles de données ; automatiser les comparaisons entre les versions logicielles et les générations matérielles.
- Outillage et automatisation - Concevoir des pipelines CI/CD et des contrôleurs/opérateurs K8s pour planifier des benchmarks à grande échelle ; intégrer les piles d'observabilité (Prometheus, Grafana, OpenTelemetry) et les entrepôts de résultats. Mettre en œuvre l'intégrité de la chaîne d'approvisionnement pour les artefacts de benchmark (SBOM, signatures Cosign).
- Interfonctionnel et Communauté - Collaborer avec NVIDIA, les principaux ISV et les projets OSS (vLLM, Triton, KServe, PyTorch/DeepSpeed, ONNX Runtime) pour co-développer des optimisations et des améliorations en amont. Soutenir les ventes/SEs avec des chiffres faisant autorité pour les RFP et les évaluations concurrentielles ; informer les analystes et la presse avec des données rigoureuses et défendables.
Qui vous êtes
- 10+ années d'expérience dans la construction de systèmes distribués ou de services HPC/cloud, avec une expertise approfondie sur l'entraînement ML à grande échelle ou des charges de travail haute performance similaires.
- Expérience avérée dans l'architecture ou la construction de systèmes de données à l'échelle planétaire (par exemple, plateformes de télémétrie, piles d'observabilité, entrepôts de données cloud, moteurs OLAP à grande échelle).
- Compréhension approfondie des performances GPU (CUDA, NCCL, RDMA, NVLink/PCIe, bande passante mémoire), des piles de serveurs de modèles (Triton, vLLM, TensorRT-LLM, TorchServe) et des frameworks d'entraînement distribué (PyTorch FSDP/DeepSpeed/Megatron-LM).
- Maîtrise de Kubernetes et des plans de contrôle ML ; familiarité avec SUNK, Kueue et Kubeflow en environnements de production.
- Excellentes compétences en communication, capables d'interagir avec les dirigeants, les clients, les auditeurs et les communautés OSS.
Atouts
- Expérience avec les bases de données de séries temporelles, les arbres de fusion de logs (LSM) ou le développement de moteurs de stockage personnalisés.
- Expérience dans la réalisation de soumissions MLPerf (Inférence et/ou Entraînement) ou de benchmarks audités équivalents à grande échelle.
- Contributions à MLPerf, Triton, vLLM, PyTorch, KServe, ou des projets OSS similaires.
- Expérience dans le benchmarking de flottes multi-régions et de grands clusters (milliers de GPUs).
- Publications/présentations sur la performance ML, l'ingénierie de latence ou la méthodologie de benchmarking à grande échelle.
Ce que nous offrons
La fourchette de salaire de base pour ce rôle est de 206 000 $ à 333 000 $. Le salaire de départ sera déterminé en fonction des connaissances, compétences, expérience et localisation du candidat liées au poste. Nous visons à la fois l'alignement sur le marché et l'équité interne lors de la détermination de la rémunération. En plus du salaire de base, notre programme de rémunération globale comprend un bonus discrétionnaire, des attributions d'actions et un programme complet d'avantages sociaux (tous sous réserve d'éligibilité).
La fourchette que nous avons publiée représente la fourchette de rémunération typique pour ce rôle. Pour déterminer la rémunération réelle, nous examinons le taux du marché pour chaque candidat, ce qui peut inclure une variété de facteurs. Ceux-ci incluent les qualifications, l'expérience, la performance lors des entretiens et la localisation.
En plus d'un salaire compétitif, nous offrons une variété d'avantages pour soutenir vos besoins. Les avantages ci-dessous reflètent nos offres basées aux États-Unis pour les employés à temps plein ; pour les postes dans d'autres régions, les avantages varient et sont communiqués pendant le processus d'embauche. Ceux-ci incluent :
- Assurance médicale, dentaire et optique - 100 % pris en charge par CoreWeave
- Assurance vie payée par l'entreprise
- Assurance vie supplémentaire facultative
- Assurance invalidité de courte et longue durée
- Compte de dépenses professionnelles (FSA)
- Compte d'épargne santé (HSA)
- Remboursement des frais de scolarité
- Possibilité de participer au programme d'achat d'actions des employés (ESPP)
- Avantages pour le bien-être mental via Spring Health
- Soutien à la formation familiale fourni par Carrot
- Congés parentaux payés
- Soutien à la garde d'enfants flexible et complet avec Kinside
- 401(k) avec un généreux abondement de l'employeur
- Congés payés flexibles
- Déjeuner traiteur chaque jour dans nos bureaux et centres de données
- Un environnement de travail décontracté
- Une culture de travail axée sur la disruption innovante
Égalité des Chances et Accommodements
Candidats Californiens
California Consumer Privacy Act drive.google.com/file/d/1gPBRBhUNAMBmj7Yn4_M-hCugm7ZJD4hr/view?usp=sharing
CoreWeave est un employeur garantissant l'égalité des chances, engagé à favoriser un lieu de travail inclusif et de soutien. Tous les candidats qualifiés recevront une considération pour l'emploi sans distinction de race, de couleur, de religion, de sexe, de handicap, d'âge, d'orientation sexuelle, d'identité de genre, d'origine nationale, de statut d'ancien combattant ou d'informations génétiques.
Dans le cadre de cet engagement et conformément à l'Americans with Disabilities Act (ADA) eeoc.gov/laws/guidance/fact-sheet-disability-discrimination, CoreWeave s'assurera que les candidats qualifiés handicapés bénéficient d'aménagements raisonnables pour le processus d'embauche, à moins qu'un tel aménagement n'entraîne une contrainte excessive. Si un aménagement raisonnable est nécessaire, veuillez contacter : careers@coreweave.com [careers@coreweave.com].
Conformité au contrôle des exportations
Ce poste nécessite l'accès à des informations soumises au contrôle des exportations. Pour se conformer aux réglementations gouvernementales américaines applicables à ces informations, le candidat doit soit (A) être une personne américaine, définie comme (i) un citoyen ou un ressortissant américain, (ii) un résident permanent légal américain (titulaire d'une carte verte), (iii) un réfugié au sens de 8 U.S.C. § 1157, ou (iv) un demandeur d'asile au sens de 8 U.S.C. § 1158, (B) être éligible à accéder aux informations soumises au contrôle des exportations sans autorisation d'exportation requise, ou (C) être éligible et raisonnablement susceptible d'obtenir l'autorisation d'exportation requise de l'agence gouvernementale américaine compétente. CoreWeave peut, pour des raisons commerciales légitimes, refuser de poursuivre tout processus de licence d'exportation.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil