CSC Leasing Co.
Waymo
Senior Machine Learning Engineer, Runtime und Serving
Über die Stelle
Waymo ist ein Unternehmen für autonome Fahrtechnologie mit der Mission, der weltweit vertrauenswürdigste Fahrer zu sein.
Seit seiner Gründung als Google Self-Driving Car Project im Jahr 2009 konzentriert sich Waymo auf den Bau des Waymo Driver – The World's Most Experienced Driver™ –, um die Mobilität zu verbessern und Tausende von Leben zu retten, die durch Verkehrsunfälle verloren gehen.
Der Waymo Driver treibt Waymos vollständig autonomes Ride-Hailing-Service an und kann auch auf eine Reihe von Fahrzeugplattformen und Produktanwendungsfälle angewendet werden.
Der Waymo Driver hat über zehn Millionen Fahrten ohne menschlichen Fahrer absolviert, ermöglicht durch die Erfahrung von über 100 Millionen Meilen autonomer Fahrt auf öffentlichen Straßen sowie zig Milliarden Meilen in Simulationen in über 15 US-Bundesstaaten.
Wir suchen Ingenieure mit Expertise in ML-Software und -Systemen, die uns beim Aufbau der nächsten Generation der Waymo Onboard-ML-Inference-Engine für das grundlegende Waymo-Modell unterstützen. Sie arbeiten aus Systemperspektive am gesamten ML-Stack, von effizienten deep learning-Modellen, Modellkomprimierung und ML-Software (z. B. JAX, XLA, Triton und CUDA) bis hin zu . Sie werden vor die spannende Herausforderung gestellt, Waymo ML-Modelle auf begrenzten Rechenressourcen bereitzustellen. In dieser hybriden Rolle berichten Sie an den Senior Manager of Runtime and Optimization.
Das ML Optimization Team bei Waymo stellt eine Reihe von Tools zur Unterstützung und Automatisierung des Lebenszyklus des Machine Learning Workflows bereit, einschließlich Feature- und Experimentenmanagement, Modellentwicklung, Optimierung und Überwachung.
Diese Bemühungen haben dazu geführt, machine learning für Teams bei Waymo zugänglicher zu machen, darunter Perception, Planner, Research und Simulation.
Sie werden:
- Ein effizientes, hochperformantes ML-Runtime- und Serving-System für sowohl Onboard-Autonomes-Fahrzeug-Computing als auch für groß angelegte Offboard-Rechenzentrumsumgebungen entwerfen und entwickeln.
- Die Integration und Feature-Entwicklung für ML-Inferenz-Runtimes in beiden Domänen leiten und dabei die strengen Echtzeit-Latenz- und Speicherbeschränkungen von Onboard-Systemen mit den hohen Durchsatz- und hochgradig nebenläufigen Anforderungen von Offboard-Serving-Flotten ausbalancieren.
- Die strategische Migration von ML-Workloads hin zu einer JAX-nativen Runtime-Architektur vorantreiben, was die Erweiterung und Modifizierung zugrunde liegender ML-Compiler und Runtimes (z. B. OpenXLA/PjRT, TensorRT) beinhaltet.
- Mit erstklassigen Waymo ML-Praktikern aus den Bereichen Perception, Planner und Research zusammenarbeiten, um ML-Workloads auf Systemebene zu analysieren und hardwarebewusste Compute-Optimierungen anzuwenden.
- Robuste Tools für Profiling, Benchmarking und die Identifizierung von Engpässen auf Systemebene über den gesamten End-to-End ML-Software-Stack hinweg entwerfen und erstellen.
Sie haben
- B.S. oder M.S. in Informatik, Elektrotechnik, Deep Learning oder einem verwandten Fachgebiet.
- 5+ Jahre professionelle Software-Engineering-Erfahrung, die sich auf den Aufbau, die Skalierung oder die Wartung von ML-Systemen und -Infrastrukturen konzentriert.
- 5+ Jahre Produktionserfahrung in C++.
- 3+ Jahre Berufserfahrung in der Produktion mit Python und gängigen deep learning-Frameworks (z. B. PyTorch, JAX).
- Erfahrung in der Optimierung von ML-Software für Hardwarebeschleuniger (z. B. GPUs, TPUs, Custom Silicon).
- Erfahrung im Aufbau von Low-Latency, hochgradig nebenläufigen verteilten backend Systemen.
Wir bevorzugen
- PhD in Informatik, Elektrotechnik, Deep Learning oder einem verwandten Fachgebiet.
- Erfahrung in der Modifizierung von ML-Compilern, Runtimes oder Inferenz-Engines (z. B. TensorRT, ONNX Runtime, OpenXLA/PjRT, TVM).
- Erfahrung im Aufbau oder der Skalierung von LLM Serving Systemen, einschließlich Expertise in verteilter Inferenz und Leistungsoptimierung (z. B. KV/Prefix Caching, Continuous Batching).
- Erfahrung mit Custom Kernel Entwicklung (z. B. CUDA/CUDA Tile, Triton, JAX/Pallas).
- Erfahrung in der Architektur von einheitlichen Serving APIs und der Optimierung des Tensor Buffer Managements (z. B. Zero-Copy-Datentransfer, Shared Memory) für komplexe, Multi-Model-Inferenz-Pipelines.
Die erwartete Gehaltsspanne für diese Vollzeitposition über US-Standorte hinweg ist unten aufgeführt. Das tatsächliche Einstiegsgehalt basiert auf berufsbezogenen Faktoren, einschließlich des genauen Arbeitsortes, der Erfahrung, der relevanten Ausbildung und des Kenntnisstandes. Ihr Recruiter kann Ihnen während des Einstellungsprozesses mehr über die spezifische Gehaltsspanne für den Standort der Stelle oder, falls die Stelle remote ausgeführt werden kann, über die spezifische Gehaltsspanne für Ihren bevorzugten Standort erzählen.
Waymo-Mitarbeiter sind außerdem berechtigt, am diskretionären jährlichen Bonusprogramm, am Equity Incentive Plan und am großzügigen Leistungsprogramm von Waymo teilzunehmen, vorbehaltlich der Teilnahmevoraussetzungen.
Gehaltsspanne
$213,000—$263,000 USD
