Murphy AI
SEMRON GmbH
Senior SoC-Architekt
Über die Rolle
Der einzigartige Ansatz von SEMRON, der auf der proprietären CapRAM™-Technologie basiert, ermöglicht LLM-Inferenz, wobei nur Aktivierungen zu/von Speicher-Dies übertragen werden. Dies führt aus mehreren Gründen zu deutlich niedrigeren Gesamtbetriebskosten, einschließlich wesentlich günstigerer Packaging-Kosten im Vergleich zu HBM.
Mit CapRAM™ sind wir in der Lage, Skalarprodukte direkt innerhalb von 3D-NAND-Flash zu berechnen. Alle verbleibenden Berechnungen und Datenbewegungen werden auf einem SoC durchgeführt, das direkt an diesen rechenfähigen Speicher angeschlossen ist. In dieser Rolle leiten Sie die detaillierte Entwicklung der digitalen Architektur, die SRAM, DMA-Einheiten, CPUs, Vektorprozessoren, Router und Chiplet-Kommunikationseinheiten kombiniert, gemäß den Spezifikationen, die bereits vom SEMRON-Team entwickelt wurden.
Ihre Aufgaben
- Entwurf und Leitung der Implementierung des SoC für die Chiplets unserer Aloe-Hardware-Generation
- Analyse und Bewertung von Kompromissen hinsichtlich der Details des Mikroarchitektur-Designs
- Enge Zusammenarbeit mit den Teams für Systemarchitektur, Compiler, digitales Design und Verifikation
Was Sie mitbringen sollten
- 5+ Jahre Erfahrung in der Umsetzung von High-Level-Anforderungen in detaillierte architektonische Vorgaben
- 3+ Jahre Erfahrung in der Entwicklung von Beschleunigern für ML-Workloads
- Bereitschaft zur abteilungsübergreifenden Zusammenarbeit mit Design-, Verifikations- und Softwareteams, um die Umsetzung voranzutreiben
Hilfreich, aber nicht erforderlich
- Fundierte Kenntnisse der Details beim Serving moderner LLMs in einer Rechenzentrumsumgebung
- Erfahrung mit Datenflussarchitekturen für ML-Workloads
Warum wir?
Über uns
Bei SEMRON definieren wir neu, was bei KI-Hardware möglich ist. Unsere Kerninnovation liegt im analogen In-Memory-Computing zur Beschleunigung tiefer neuronaler Netze. Dies ermöglicht uns den Bau von Rechenarchitekturen, die vertikal in die dritte Dimension skalieren, ähnlich wie NAND-Flash den Speicher revolutioniert hat. Dieser Sprung in der physikalischen Dichte erlaubt es uns, Modelle mit Milliarden von Parametern auf Chipflächen von nur wenigen Quadratmillimetern bereitzustellen.
