Deutschland
HUB.KI GmbH
RemoteStar
Senior System Engineer (München, Deutschland)
Deutschland
Munich, Bavaria, Deutschland
PythonKubernetesTerraform
Automatische Übersetzung. Prüfe das Original.
Über den Kunden
Ein gut finanziertes und schnell wachsendes Deep-Tech-Unternehmen, gegründet im Jahr 2019. Wir sind das größte Quantum-Software-Unternehmen in der EU. Laut CB Insights (2023) gehören wir auch zu den 100 vielversprechendsten KI-Unternehmen der Welt mit über 150 Mitarbeitern und wachsender Belegschaft, vollständig multikulturell und international.
Anforderungen
- Expertise in Systemprogrammierung: Mindestens 10 Jahre Erfahrung in der Softwareentwicklung mit fundierten Kenntnissen in Python. Sie sollten mit der Erstellung von System-Agents, APIs und CLI-Tools vertraut sein.
- Tiefgreifende Kubernetes-Kenntnisse: Sie verstehen die Interna von K8s über die einfache Bereitstellung hinaus. Erfahrung mit Custom Resource Definitions (CRDs), Operatoren und der Kubernetes API Server-Architektur.
- Erfahrung mit GPU-Ökosystemen: Praktische Erfahrung in der Verwaltung von NVIDIA GPU-Clustern. Vertrautheit mit NVIDIA-Treibern, dem CUDA Toolkit und der Container-Laufzeitumgebung (NVIDIA Container Toolkit).
- Interna von Linux: Tiefes Verständnis des Linux-Kernels, von cgroups, Namespaces und der Systemleistungsoptimierung.
- Infrastructure as Code: Beherrschung deklarativer Infrastruktur-Tools (Terraform, Ansible), jedoch mit Fokus auf die Bereitstellung physischer Hardware und nicht nur auf Cloud-VMs.
- Problemlösung: Nachgewiesene Erfolgsbilanz bei der Fehlersuche in komplexen verteilten Systemen, bei denen die Ursache Code, Netzwerk oder Silizium sein könnte.
Standort: Bewerber müssen über die rechtliche Befugnis verfügen, in dem Land zu arbeiten, in dem die Stelle angesiedelt ist.
Bevorzugte Qualifikationen
- HPC-Hintergrund: Erfahrung mit traditionellen Supercomputing-Schedulern (Slurm, PBS) oder modernen Batch-Schedulern (Volcano, Kueue, Ray).
- Bare-Metal-Provisionierung: Erfahrung mit Tools wie Cluster API (CAPI), Metal3, Tinkerbell, Canonical MaaS oder OpenStack Ironic.
- High-Speed-Networking: Kenntnisse in RDMA, InfiniBand, GPUDirect und wie diese Technologien für containerisierte Workloads verfügbar gemacht werden.
- KI/ML-Vertrautheit: Verständnis des verteilten Trainings (z. B. PyTorch Distributed, Megatron-LM, DeepSpeed) und der Infrastrukturanforderungen von Large Language Models (LLMs).
- Observability: Erfahrung im Aufbau von Monitoring für Hardware-Gesundheit (DCGM) und verteiltem Tracing für langlaufende Jobs.
Was Sie tun werden
- Aufbau der Control Plane: Entwurf und Entwicklung der Software-Schicht (APIs, Controller, Agents), die den Lebenszyklus der Bare-Metal-KI-Infrastruktur automatisiert.
- Orchestrierung von High-Scale-Compute: Architektur von Scheduling-Lösungen für groß angelegte verteilte Trainingsjobs über massive GPU-Cluster (NVIDIA H200/B200/B300) hinweg, um effizientes Bin-Packing und Gang-Scheduling zu gewährleisten.
- Optimierung des Fabric: Abstimmung der softwaredefinierten Netzwerkschicht zur Unterstützung von Low-Latency-Interconnects (InfiniBand/RDMA/RoCEv2), die für Multi-Node-Training unerlässlich sind.
- Entwicklung von Kubernetes-Erweiterungen: Schreiben benutzerdefinierter Kubernetes-Operatoren und CRDs, um komplexe Hardware-Realitäten (Topologie-Bewusstsein, GPU-Partitionierung) in nutzbare Schnittstellen für unsere Data Scientists zu abstrahieren.
- Hardwarenahe Fehlersuche: Untersuchung und Behebung von tiefgreifenden Systemproblemen, die von PCIe-Busfehlern und NCCL-Kommunikations-Timeouts bis hin zu Kernel-Panics auf Bare-Metal-Nodes reichen.
- Definition von Standards: Erstellung des "Golden Image" für KI-Workloads, Verwaltung von Treibern, Firmware und OS-Optimierungen, um die maximale Leistung aus der Hardware herauszuholen.
Vergünstigungen & Vorteile
- Unbefristeter Vertrag.
- Gleiche Bezahlung garantiert.
- Variabler Leistungsbonus.
- Unterschriftsbonus.
- Umzugspaket (falls zutreffend).
- Private Krankenversicherung.
- Anspruch auf ein Bildungsbudget gemäß interner Richtlinie.
- Hybride Möglichkeit.
- Flexible Arbeitszeiten.
- Arbeit in einem schnelllebigen Umfeld, an Spitzentechnologien.
- Karriereplan. Möglichkeit zu lernen und zu lehren.
- Progressives Unternehmen. Positive Unternehmenskultur.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen