Vereinigte Staaten
B&A
Waymo
Senior Machine Learning Engineer, Runtime and Serving
Vereinigte Staaten
Mountain View, California, Vereinigte Staaten
PythonC++
Automatische Übersetzung. Prüfe das Original.
Über die Stelle
Waymo ist ein Unternehmen für autonome Fahrtechnologie mit der Mission, der weltweit vertrauenswürdigste Fahrer zu sein.
Seit dem Start als Google Self-Driving Car Project im Jahr 2009 konzentriert sich Waymo darauf, den Waymo Driver – den erfahrensten Fahrer der Welt™ – zu entwickeln, um den Zugang zu Mobilität zu verbessern und Tausende von Menschenleben zu retten, die derzeit bei Verkehrsunfällen verloren gehen.
Der Waymo Driver treibt den vollautonomen Ride-Hailing-Service von Waymo an und kann zudem auf eine Reihe von Fahrzeugplattformen und Produktanwendungsfällen angewendet werden.
Der Waymo Driver hat über zehn Millionen Fahrten ohne menschlichen Fahrer absolviert, ermöglicht durch die Erfahrung von über 100 Millionen autonom gefahrenen Meilen auf öffentlichen Straßen und zig Milliarden in Simulationen in über 15 US-Bundesstaaten.
Wir suchen Ingenieure mit Expertise in ML-Software und -Systemen, die uns beim Aufbau der nächsten Generation der Waymo Onboard-ML-Inference-Engine für das fundamentale Modell von Waymo unterstützen. Sie arbeiten aus Systemperspektive am gesamten ML-Stack, von effizienten deep learning Modellen, Modellkomprimierung und ML-Software (z. B. JAX, XLA, Triton und CUDA) bis hin zu Systemen. Sie werden vor die spannende Herausforderung gestellt, Waymo ML-Modelle auf Systemen mit begrenzten Rechenressourcen bereitzustellen. In dieser hybriden Rolle berichten Sie an den Senior Manager of Runtime and Optimization.
Das ML Optimization-Team bei Waymo stellt eine Reihe von Tools bereit, um den Lebenszyklus des machine learning-Workflows zu unterstützen und zu automatisieren, einschließlich Feature- und Experiment-Management, Modellentwicklung, Optimierung und Monitoring.
Diese Bemühungen haben dazu geführt, dass machine learning für Teams bei Waymo zugänglicher gemacht wurde, darunter Perception, Planner, Research und Simulation.
Ihre Aufgaben:
- Sie konzipieren und entwickeln ein effizientes, leistungsstarkes ML-Runtime- und Serving-System, das sowohl auf die Onboard-Rechenleistung autonomer Fahrzeuge als auch auf groß angelegte Offboard-Rechenzentrumsumgebungen zugeschnitten ist.
- Sie leiten die Integration und Feature-Entwicklung für ML-Inference-Runtimes in beiden Bereichen und bringen dabei die strengen Echtzeit-Latenz- und Speicheranforderungen von Onboard-Systemen mit den Anforderungen an hohen Durchsatz und hohe Nebenläufigkeit von Offboard-Serving-Flotten in Einklang.
- Sie treiben die strategische Migration von ML-Workloads auf eine JAX-native Runtime-Architektur voran, was die Erweiterung und Modifikation zugrunde liegender ML-Compiler und Runtimes (z. B. OpenXLA/PjRT, TensorRT) umfasst.
- Sie arbeiten mit erstklassigen ML-Experten von Waymo aus den Bereichen Perception, Planner und Research zusammen, um ML-Workloads auf Systemebene zu analysieren und hardwarenahe Rechenoptimierungen anzuwenden.
- Sie entwerfen und erstellen robuste Tools für Profiling, Benchmarking und die Identifizierung von Engpässen auf Systemebene im gesamten End-to-End-ML-Software-Stack.
Das bringen Sie mit
- Bachelor- oder Masterabschluss in Informatik, Elektrotechnik, Deep Learning oder einem verwandten Fachbereich.
- 5+ Jahre Berufserfahrung in der Softwareentwicklung mit Fokus auf den Aufbau, die Skalierung oder die Wartung von ML-Systemen und -Infrastrukturen.
- 5+ Jahre produktive Programmiererfahrung in C++.
- 3+ Jahre produktive Erfahrung in Python und gängigen deep learning-Frameworks (z. B. PyTorch, JAX).
- Erfahrung in der Optimierung von ML-Software für Hardware-Beschleuniger (z. B. GPUs, TPUs, kundenspezifische Silizium-Chips).
- Erfahrung im Aufbau von latenzarmen, hochgradig nebenläufigen verteilten backend-Systemen.
Wünschenswert
- Promotion in Informatik, Elektrotechnik, Deep Learning oder einem verwandten Fachbereich.
- Erfahrung in der Modifikation von ML-Compilern, Runtimes oder Inference-Engines (z. B. TensorRT, ONNX Runtime, OpenXLA/PjRT, TVM).
- Erfahrung im Aufbau oder der Skalierung von LLM-Serving-Systemen, einschließlich Expertise in verteilter Inference und Leistungsoptimierung (z. B. KV/Prefix-Caching, Continuous Batching).
- Erfahrung in der Entwicklung benutzerdefinierter Kernel (z. B. CUDA/CUDA Tile, Triton, JAX/Pallas).
- Erfahrung in der Architektur vereinheitlichter Serving-APIs und der Optimierung des Tensor-Buffer-Managements (z. B. Zero-Copy-Datentransfer, Shared Memory) für komplexe Multi-Modell-Inference-Pipelines.
Die erwartete Gehaltsspanne für diese Vollzeitstelle an US-Standorten ist unten aufgeführt. Das tatsächliche Einstiegsgehalt basiert auf berufsbezogenen Faktoren, einschließlich des genauen Arbeitsortes, der Erfahrung, der relevanten Ausbildung und Qualifikation sowie des Kompetenzniveaus. Ihr Recruiter kann Ihnen während des Einstellungsprozesses mehr über die spezifische Gehaltsspanne für den Standort der Rolle mitteilen oder, falls die Rolle remote ausgeübt werden kann, über die spezifische Gehaltsspanne für Ihren bevorzugten Standort.
Mitarbeiter von Waymo sind zudem berechtigt, am diskretionären jährlichen Bonusprogramm, dem Aktienbeteiligungsplan und dem großzügigen Leistungsprogramm von Waymo teilzunehmen, vorbehaltlich der Erfüllung der Anspruchsvoraussetzungen.
Gehaltsspanne
$213,000—$263,000 USD
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen