Vereinigte Staaten
Startekk Inc
NVIDIA
Senior Systems Software Engineer, Beschleunigte Kubernetes Performance und Skalierung - DGX Cloud
Vereinigte Staaten
Santa Clara, California, Vereinigte Staaten · Seattle, Washington, Vereinigte Staaten
PythonAWSGCPKubernetes
Automatische Übersetzung. Prüfe das Original.
Über die Stelle
NVIDIA transformiert seit mehr als 25 Jahren Computergrafik, PC-Gaming und beschleunigtes Computing, angetrieben durch großartige Technologie und erstaunliche Mitarbeiter. Wir erschließen nun das unbegrenzte Potenzial von KI, um die nächste Ära des Computings zu definieren, in der unsere GPUs Computer, Roboter und selbstfahrende Autos antreiben, die die Welt verstehen können. Das, was noch nie zuvor getan wurde, erfordert Vision, Innovation und die besten Talente der Welt. Als NVIDIAN arbeiten Sie in einem vielfältigen, unterstützenden Umfeld, in dem die Mitarbeiter ermutigt werden, ihr Bestes zu geben und ihre Karriere voranzutreiben. Wir bevorzugen hybride Arbeitsmodelle, bleiben aber offen für Remote-Arrangements, um Ihnen Flexibilität bei der Ausübung Ihrer besten Arbeit zu ermöglichen.
Kommen Sie in unser Team und erleben Sie, wie Sie einen bleibenden Einfluss auf die Welt nehmen können.
Die DGX Cloud-Organisation bei NVIDIA vereint Spitzen-Hardware- und Softwareinnovationen, um branchenführendes beschleunigtes Computing für die anspruchsvollsten KI-Workloads der Welt zu liefern. Wir sind eine Gruppe zukunftsorientierter Ingenieure, die einige der schwierigsten Herausforderungen der Welt meistern, Fortschritte vorantreiben und Millionen von Leben positiv beeinflussen.
Wir suchen einen Senior Systems Software Engineer mit tiefgreifender Expertise in verteilten Systemen, Kubernetes, Containern sowie Systemleistung und Skalierbarkeit.
Der ideale Kandidat verfügt über breite, praktische Erfahrung über den gesamten Stack hinweg, einschließlich GPU-Operatoren, Geräte-Plugins, verteiltem Inferenz-Serving und wichtigen Cloud-Plattformen. Sie werden anspruchsvolle technische Probleme in großem Maßstab lösen und mitgestalten, wie KI-Infrastruktur in der Produktion läuft. In dieser Schlüsselrolle konzentrieren Sie sich auf die Skalierung der KI-Infrastruktur bei gleichzeitiger Minimierung der Gesamtbetriebskosten, Reduzierung der Kosten pro Token und Ermöglichung zukünftiger KI-Innovationen und KI-Fabriken. Sind Sie bereit, etwas zu bewirken?
Was Sie tun werden
- Leitung der End-to-End-Leistungs- und Skalierungsanalyse über den Kubernetes-basierten beschleunigten Runtime-Stack (Steuerungs- und Datenebenen), einschließlich NVIDIA-Komponenten wie GPU Operator, Network Operator, node-feature-discovery, topograph, dra-driver-nvidia-gpu und nvsentinel, wobei Probleme von der Orchestrierung bis hinunter zur Hardware verfolgt werden.
- Entwurf und Beitrag zu Upstream-Architekturänderungen an der Kubernetes-Steuerungsebene und verwandten Projekten, um einen zuverlässigen Betrieb in Hyperscale-Clustergrößen zu ermöglichen, indem das, was Hyperscaler heute typischerweise privat tun, offen umgesetzt wird.
- Verbesserung der Container-Start- und Kaltstartlatenz, um eine reibungslose, latenzarme Inferenzskalierung auf Kubernetes über Tausende von GPU-Knoten hinweg zu ermöglichen und sicherzustellen, dass der KI-Runtime-Stack skaliert, ohne API Serverdruck oder operative Fragilität zu erzeugen.
- Bewertung, Verbesserung und Beitrag zu Open-Source-Projekten, die Kubernetes zu einer herausragenden Plattform für KI-Workloads machen (z. B. Grove und gateway-api-inference-extension), wobei deren Architekturen unter Berücksichtigung von Skalierbarkeit, Ausfallsicherheit und Multi-Node-Training/Inferenz zusammengestellt werden.
- Steigerung der Skalierbarkeit und Leistung von vertraulichen Containern (CoCo) auf Kubernetes, damit verschlüsselte Inferenz-Workloads strenge Effizienz- und Latenzanforderungen in der Produktion erfüllen.
- Nutzung von DSX und verwandten groß angelegten Simulationsinfrastrukturen, um vollständige KI-Fabrik-Bereitstellungen zu modellieren und die Skalierbarkeit über Tausende von simulierten GPUs zu validieren, wobei Fehler erkannt werden, die nur in großem Maßstab auftreten, bevor die Hardware eintrifft.
- Zusammenarbeit mit KI-Forschern, Entwicklern, Kunden und Upstream-Communities, um automatisierte, skalierte Workload-Tests zu entwerfen (einschließlich des Wiederholens von Produktions-Agenten-Spuren), Monitoring-/Analysetools zu erstellen und kontinuierliche Leistungs- und Skalierungstests in moderne CI/CD-Workflows zu integrieren.
- Klare Dokumentation von Methoden und Ergebnissen sowie Präsentation der Erkenntnisse intern und auf Branchenveranstaltungen (z. B. KubeCon, GTC), während gleichzeitig aktiv mit Upstream-Gruppen (Kubernetes SIG Scalability, CNCF und NVIDIA OSS-Communities) zusammengearbeitet wird, um die Leistungs- und Skalierungsrichtungen von KI-Workloads zu beeinflussen und zu validieren.
Was wir sehen müssen
- Bachelor- oder Master-Abschluss in Ingenieurwesen oder gleichwertige Erfahrung, idealerweise in Elektrotechnik, Computertechnik oder Informatik.
- 8+ Jahre Erfahrung in Computerarchitektur, Netzwerken, Speichersystemen und beschleunigerbasierten Plattformen.
- Expertise in Kubernetes und Vertrautheit mit dem breiteren CNCF-Ökosystem.
- Tiefgreifende Erfahrung mit großen, parallelen, verteilten Beschleunigersystemen und Leistungsoptimierung von KI-Workloads.
- Erfahrung mit Leistungsmodellierung und Benchmarking für große Systeme.
- Beherrschung von Golang und/oder Python.
- Starke Vertrautheit mit dem NVIDIA Software-Stack für Training und Inferenz.
- Expertise mit mindestens einem großen Public-Cloud-Anbieter (z. B. AWS, Azure, GCP oder OCI).
Wege, sich von der Masse abzuheben
- Starke operative Erfahrung mit einer der Kubernetes-Distributionen.
- Vorerfahrung in der Skalierung von Kubernetes-Clustern auf extrem große Knoten- und Objektanzahlen.
- Nachgewiesene Erfolgsbilanz in der Arbeit in der Open-Source-Community.
- Ausgezeichnete Kommunikations- und zwischenmenschliche Fähigkeiten.
- Promotion oder gleichwertige Erfahrung in relevanten Bereichen.
#LI-Hybrid
Bewerbungen für diese Stelle werden mindestens bis zum 29. Juni 2026 angenommen.
Diese Ausschreibung bezieht sich auf eine bestehende Stelle.
NVIDIA nutzt KI-Tools in seinen Rekrutierungsprozessen.
NVIDIA engagiert sich für die Förderung eines integrativen Arbeitsumfelds und ist stolz darauf, ein Arbeitgeber zu sein, der Chancengleichheit bietet. Da wir die Vielfalt unserer aktuellen und zukünftigen Mitarbeiter sehr schätzen, diskriminieren wir nicht (auch nicht in unseren Einstellungs- und Beförderungspraktiken) aufgrund von Rasse, Religion, Hautfarbe, nationaler Herkunft, Geschlecht, Geschlechtsausdruck, sexueller Orientierung, Alter, Familienstand, Veteranenstatus, Behinderungsstatus oder anderen gesetzlich geschützten Merkmalen.
Ihr Grundgehalt wird basierend auf Ihrem Standort, Ihrer Erfahrung und der Bezahlung von Mitarbeitern in ähnlichen Positionen ermittelt. Die Gehaltsspanne für das Grundgehalt beträgt 184,000 USD - 287,500 USD für Level 4 und 224,000 USD - 356,500 USD für Level 5. Sie haben außerdem Anspruch auf Aktienoptionen und Leistungen nvidia.com/en-us/benefits/.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen