Vereinigte Staaten
Idaho Health Insurance Exchange
d-Matrix
Principal System Software Engineer, AI Inference Execution
RemoteVereinigte Staaten
Santa Clara, California, Vereinigte Staaten
PythonKubernetesC++
Automatische Übersetzung. Prüfe das Original.
Über die Stelle
Bei d-Matrix konzentrieren wir uns darauf, das Potenzial von generativer KI freizusetzen, um die Transformation der Technologie voranzutreiben. Wir stehen an der Spitze der Software- und Hardwareinnovation und erweitern die Grenzen des Möglichen. Unsere Kultur ist geprägt von Respekt und Zusammenarbeit.
Wir schätzen Bescheidenheit und glauben an direkte Kommunikation. Unser Team ist integrativ, und unsere unterschiedlichen Perspektiven ermöglichen bessere Lösungen. Wir suchen nach Personen, die leidenschaftlich gerne Herausforderungen annehmen und von der Umsetzung angetrieben werden. Sind Sie bereit, Ihren Spielplatz zu finden? Gemeinsam können wir die endlosen Möglichkeiten der KI mitgestalten.
Richtlinie zur Chancengleichheit am Arbeitsplatz
Standort: Hybrid, mit 3 Tagen pro Woche vor Ort in unserem Hauptsitz in Santa Clara, CA.
d-Matrix ist stolz darauf, ein Arbeitgeber zu sein, der Chancengleichheit und affirmative Maßnahmen fördert. Wir setzen uns für die Schaffung eines integrativen Umfelds ein, in dem sich jeder willkommen und befähigt fühlt, seine beste Arbeit zu leisten. Wir stellen die besten Talente für unsere Teams ein, unabhängig von Rasse, Religion, Hautfarbe, Alter, Behinderung, Geschlecht, Geschlechtsidentität, sexueller Orientierung, Abstammung, genetischen Informationen, Familienstand, nationaler Herkunft, politischer Zugehörigkeit oder Veteranenstatus. Unser Fokus liegt auf der Einstellung von Teammitgliedern mit bescheidener Expertise, Freundlichkeit, Engagement und der Bereitschaft, Herausforderungen anzunehmen und jeden Tag gemeinsam zu lernen.
d-Matrix akzeptiert keine Lebensläufe oder Kandidatenangebote von externen Agenturen. Wir schätzen das Interesse und die Bemühungen von Personalvermittlungsfirmen, bitten jedoch darum, dass sich Einzelpersonen, die an Möglichkeiten bei d-Matrix interessiert sind, direkt über unsere offiziellen Kanäle bewerben. Dieser Ansatz ermöglicht es uns, unsere Einstellungsprozesse zu optimieren und eine konsistente und faire Bewertung aller Bewerber aufrechtzuerhalten. Vielen Dank für Ihr Verständnis und Ihre Kooperation.
Die Rolle: Principal System Software Engineer, AI Inference Execution
Was Sie tun werden
In dieser Rolle sind Sie Teil des Teams, das den SW-Stack für unsere KI-Compute-Engine produktiviert. Als Teil des Softwareteams sind Sie für die Entwicklung, Verbesserung und Wartung der KI-Deployment-Software der nächsten Generation verantwortlich. Sie verfügen über frühere Erfahrungen in allen Aspekten der full-stack Toolchain und verstehen die Nuancen, die erforderlich sind, um verschiedene Aspekte des Hardware-Software-Co-Designs zu optimieren und abzuwägen. Sie können Software-Lieferungen in einem engen Entwicklungszeitfenster erstellen und skalieren. Sie arbeiten mit einem Team von Systemsoftware-Experten zusammen, um die Deployment-Infrastruktur aufzubauen, und arbeiten eng mit anderen Software- (ML und Compiler) und Hardware-Experten im Unternehmen zusammen.
Was Sie mitbringen
Mindestanforderungen
- BS in Informatik, Ingenieurwesen, Mathematik, Physik oder einem verwandten Fachgebiet mit 12+ Jahren Branchenerfahrung in der Softwareentwicklung und bevorzugt MS in Informatik, Ingenieurwesen, Mathematik, Physik oder einem verwandten Fachgebiet mit 6+ Jahren
- Starkes Verständnis von Systemsoftware, Datenstrukturen, Computerarchitektur und machine learning-Grundlagen
- Fundierte Kenntnisse in der C/C++/Python-Entwicklung in Linux-Umgebung und unter Verwendung gängiger Entwicklungswerkzeuge
- Erfahrung mit verteiltem, hochperformantem Softwaredesign und Implementierung
- Eigenmotivierter Teamplayer mit starkem Verantwortungsbewusstsein und Führungsqualitäten.
Bevorzugt
- MS oder PhD in Informatik, Elektrotechnik oder verwandten Fachgebieten
- Erfahrung mit Inferenzservern/Model-Serving-Frameworks (wie TensorRT-LLM, vLLM, SGLang usw.)
- Erfahrung mit deep learning-Frameworks (wie PyTorch und TensorFlow)
- Erfahrung mit deep learning-Runtimes (wie ONNX Runtime, TensorRT usw.).
- Erfahrung mit verteilten Systemkollektiven wie NCCL und OpenMPI
- Erfahrung mit Grundlagen des Softwaretestens
- Erfahrung mit dem Deployment von ML-Workloads (LLMs, VLMs, NLP usw.) auf verteilten Systemen.
- Erfahrung mit Kubernetes, Ray oder anderen MLOps-Tools und -Techniken, die von der Definition bis zum Deployment verwendet werden
- Frühere Erfahrung in Start-ups, kleinen Teams oder Inkubationsprojekten
- Berufserfahrung bei einem Cloud-Anbieter oder einem Unternehmen für KI-Compute/Subsysteme
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen