B&A
Figure
Staff AI Inference and Acceleration Engineer
Über die Stelle
Figure ist ein Unternehmen für KI-Robotik, das autonome, universell einsetzbare humanoide Roboter entwickelt. Das Ziel des Unternehmens ist es, humanoide Roboter mit menschenähnlicher Intelligenz auf den Markt zu bringen. Die Roboter sind darauf ausgelegt, eine Vielzahl von Aufgaben im privaten und gewerblichen Bereich zu übernehmen. Der Hauptsitz von Figure befindet sich in San Jose, CA.
Wir suchen einen Staff AI Inference & Acceleration Engineer, der unser Platform Software Team verstärkt und die On-Board-Inferenzarchitektur für die humanoiden Roboter von Figure verantwortet. Sie sind die technische Autorität dafür, wie KI-Workloads auf der Rechenhardware des Roboters abgebildet, optimiert und ausgeführt werden – mit dem Ziel, den Stromverbrauch und die Kosten zu senken und gleichzeitig die strengen Anforderungen an Latenz und Zuverlässigkeit eines autonomen Echtzeitsystems zu erfüllen.
Aufgaben
- Verantwortung für die On-Board-Inferenzarchitektur – Abbildung von Modellen auf verfügbare Beschleuniger (NPU, GPU, DSP, CPU) basierend auf Latenz-, Energie- und Speicherbudgets.
- Partitionierung von Inferenz-Workloads über heterogene Rechenressourcen hinweg, unter Abwägung von Echtzeitleistung sowie Energie- und thermischen Einschränkungen.
- Definition und Pflege eines systemweiten Rechenbudgets für alle auf dem Roboter ausgeführten Inferenzaufgaben.
- Evaluierung von Beschleuniger-Hardware der nächsten Generation und Beitrag zur Definition zukünftiger Anforderungen an die Rechenplattform.
- End-to-End-Optimierung von Inferenz-Toolchains – vom Modelexport bis zur Laufzeitausführung – für die Zielhardware.
- Anwendung von Quantisierung (INT8, INT4, Mixed-Precision), Pruning, Operator-Fusion und anderen Komprimierungstechniken zur Reduzierung des Rechen-, Speicher- und Energiebedarfs.
- Profiling von Inferenz-Pipelines zur Identifizierung und Beseitigung von Engpässen bei Latenz, Speicherbandbreite und Stromverbrauch.
- Optimierung von Kernel-Scheduling, Speicherlayout und Datenbewegung innerhalb der Rechenhierarchie.
- Enge Zusammenarbeit mit dem AI/ML-Team zur Definition von Modellarchitekturbeschränkungen, die von Anfang an hardwarefreundlich sind.
- Zusammenarbeit mit dem Platform Software Team bei Laufzeitintegration, Scheduling und Energiemanagement.
- Austausch mit Silizium-Anbietern und Forschungsteams, um die Landschaft der Beschleuniger zu verfolgen und Hardware-Roadmaps zu beeinflussen.
Anforderungen
- M.S.- oder Ph.D.-Abschluss in Computer Engineering, Elektrotechnik, Informatik oder einem verwandten Bereich – oder gleichwertige Berufserfahrung.
- Mindestens 8 Jahre Berufserfahrung in den Bereichen Hardwarebeschleunigung, ML-Systeme oder Rechenarchitektur.
- Fundiertes Verständnis von KI/ML-Inferenz – Modellformate (ONNX, TFLite, etc.), Inferenz-Runtimes und Deployment-Pipelines.
- Praktische Erfahrung in der Optimierung von Modellen für Edge- oder Embedded-Hardware mittels Quantisierung, Pruning und Operator-Level-Tuning.
- Starkes Verständnis der Computerarchitektur – Speicherhierarchien, Datenbewegung und heterogene Rechensysteme.
- Erfahrung im Profiling und Benchmarking von Inferenz-Workloads über CPU, GPU, NPU und DSP hinweg.
- Vertrautheit mit Low-Level-Toolchains und Kompilierungs-Frameworks (z. B. TVM, MLIR, TensorRT, Torch, SNPE/QNN, JAX, CUDA, ROCm).
- Solide Software-Engineering-Kenntnisse in C++ und Python.
- Ausgeprägte kommunikative Fähigkeiten für die funktionsübergreifende Zusammenarbeit – Sie können effektiv mit Hardware-, Software- und AI/ML-Teams zusammenarbeiten.
Zusatzqualifikationen
- Kenntnisse über Echtzeit-Betriebsbeschränkungen und deren Auswirkungen auf das Inferenz-Scheduling.
- Nachweisliche Erfahrung im Co-Design von Modellarchitekturen gemeinsam mit ML-Teams zur Einhaltung von Hardware-Beschränkungen.
Die US-Basisgehaltsspanne für diese Vollzeitstelle liegt bei $180,000 bis $275,000 pro Jahr.
Das für diese Position angebotene Gehalt kann je nach verschiedenen individuellen Faktoren variieren, einschließlich berufsbezogener Kenntnisse, Fähigkeiten und Erfahrung. Das Gesamtvergütungspaket kann je nach spezifischer Rolle weitere Komponenten/Leistungen enthalten. Diese Informationen werden mitgeteilt, falls ein Stellenangebot unterbreitet wird.
