Deutschland
Eco Plus Solutions AB
Tensordyne
Werkstudent - LLM Inference Performance
Deutschland
Munich, Bavaria, Deutschland
PythonC++Rust
Automatische Übersetzung. Prüfe das Original.
Über Tensordyne
KI verändert unsere Welt. Sie kann kognitive Funktionen ausführen, die bisher nur Menschen vorbehalten waren, wie etwa die Wahrnehmung von Interaktionen über verschiedene Modalitäten und Umgebungen hinweg – mit der Fähigkeit, schnell zu lernen und komplexe Probleme zu lösen. Tensordyne ist ein Unternehmen für KI-Systemlösungen, das hochperformante, energieeffiziente generative KI-Inferenzsysteme entwickelt. Unsere Mission ist es, durch die Entwicklung maßgeschneiderter Silizium-, Hardware- und Softwarelösungen die Beschleunigung multimodaler generativer KI-Inferenz in großem Maßstab zu ermöglichen – mit sicheren, nachhaltigen und leistungsstarken Systemen für unsere Hyperscaler- und Neocloud-Rechenzentrumskunden. Wir stehen an der Spitze der Forschung und Produktverbesserung für generative KI-Inferenzlösungen, die KI für überzeugende neue generative KI-Anwendungen noch vorteilhafter machen. Tensordyne ist ein gut finanziertes, schnell wachsendes Startup-Unternehmen mit Hauptsitzen in Sunnyvale, Kalifornien, und München, Deutschland. Wir haben zudem viele talentierte Teammitglieder, die remote in ganz Nordamerika und Europa arbeiten. Wir kümmern uns um unsere Mitarbeiter und deren Familien mit umfassenden Sozialleistungen, wettbewerbsfähiger Vergütung, flexiblen Ausgabenoptionen und Anerkennungsprogrammen, denn die Entwicklung wegweisender Technologien beginnt mit einem gesunden und unterstützten Team. Kommen Sie zu uns und gestalten Sie die Zukunft der multimodalen generativen künstlichen Intelligenz!
Über die Rolle
Wie schnell sollte ein LLM-Baustein auf unserer Hardware laufen? Wie schnell läuft er tatsächlich und was würde ihn schneller machen? Als Werkstudent im Bereich LLM Inference Performance helfen Sie bei der Beantwortung dieser Fragen, indem Sie direkt mit unseren Hardware- und Software-Engineering-Teams zusammenarbeiten. Sie schreiben und optimieren Low-Level-Kernel, führen Performance-Benchmarks auf echtem Silizium durch und entwickeln Profiling-Tools, die Ingenieuren helfen, die LLM-Inferenzleistung zu verstehen und zu verbessern. Sie sammeln praktische Erfahrungen mit unserem Rust-Programmier-Stack und dem Python SDK, nutzen KI-Coding-Agenten als Teil Ihres Entwicklungs-Workflows und arbeiten eng mit Ingenieuren zusammen, die an Compilern, Runtimes und Kernel-Optimierung arbeiten. Dies ist eine Gelegenheit, Ihr akademisches Wissen auf reale KI-Hardware-Herausforderungen anzuwenden und Verantwortung für bedeutende technische Projekte zu übernehmen.
Ihre Aufgaben
- Verständnis unserer Hardware: Lernen Sie, wie Tensordyne-Silizium Daten verarbeitet, Speicher verwaltet und Operationen synchronisiert, und wie wichtige LLM-Komponenten wie Attention, MLP und Mixture-of-Experts (MoE)-Routing auf die Architektur abgebildet werden.
- Entwicklung und Optimierung von Kernels: Implementieren, testen und optimieren Sie Low-Level-Kernel, um die Leistung von LLM-Inferenz-Workloads zu verbessern.
- Analyse der Performance: Erstellen Sie analytische und Roofline-Performance-Modelle, vergleichen Sie Vorhersagen mit Messungen aus Simulatoren und auf echtem Silizium und untersuchen Sie Performance-Engpässe.
- Entwicklung von Benchmarking- und Profiling-Tools: Entwickeln Sie Benchmark-Harnesses, Profiling-Skripte und Trace-Visualisierungen, die es einfacher machen, die Performance zu messen, zu verstehen und zu verbessern.
- Arbeit mit KI-Coding-Agenten: Erforschen Sie Workflows, bei denen KI-Agenten bei der Kernel-Entwicklung, Optimierung und beim Benchmarking unterstützen, und identifizieren Sie die Tools und den Kontext, die sie für eine effektive Arbeit benötigen.
- Zusammenarbeit in Engineering-Teams: Arbeiten Sie eng mit Compiler-, Runtime- und Kernel-Ingenieuren zusammen, um Performance-Erkenntnisse in praktische Verbesserungen umzusetzen.
- Beispielprojekt: Entwickeln Sie einen Benchmarking- und Profiling-Harness für einen LLM-Baustein, wie z. B. Decode Attention, auf zwei Abstraktionsebenen. Vergleichen Sie die gemessene Leistung mit theoretischen Schätzungen und machen Sie die Tools für KI-Coding-Agenten zugänglich.
Was wir suchen
- Aktuell eingeschriebener Master-Student in Informatik, Elektrotechnik, Mathematik oder einem verwandten technischen Fachbereich.
- Starke Programmierkenntnisse in Python und mindestens einer der Sprachen C, C++ oder Rust.
- Verständnis von Computerarchitektur, Speichersystemen, Bandbreite und parallelem Rechnen durch akademische Kurse oder persönliche Projekte.
- Interesse an Low-Level-Programmierung, Hardware-Performance und Optimierung.
- Praktische Erfahrung im Einsatz von KI-Coding-Agenten in Entwicklungs-Workflows, mit der Fähigkeit, deren Ergebnisse zu bewerten und zu verbessern.
- Eine experimentelle Denkweise mit der Fähigkeit, Hypothesen aufzustellen, Messungen zu analysieren und technische Ergebnisse klar zu kommunizieren.
- Neugier, Eigeninitiative und Begeisterung für das Erlernen neuer Technologien.
Wünschenswert
Erfahrung in einem oder mehreren der folgenden Bereiche wäre ein Plus:
- GPU- oder KI-Beschleuniger-Programmierung.
- Embedded Systems oder Bare-Metal-Programmierung.
- Performance-Profiling, Benchmarking oder Optimierung.
- LLM-Inferenz-Grundlagen und -Architekturen.
Warum zu Tensordyne kommen?
- Arbeiten Sie an modernster KI-Technologie: Tragen Sie zur Entwicklung der nächsten Generation von KI-Inferenz-Hardware und -Software bei.
- Sammeln Sie praktische Erfahrungen: Wenden Sie Ihr universitäres Wissen auf echtes Silizium und anspruchsvolle technische Probleme an.
- Verantworten Sie bedeutende Projekte: Bauen Sie Tools und Lösungen, die unsere Engineering-Teams direkt unterstützen.
- Lernen Sie von erfahrenen Ingenieuren: Arbeiten Sie an der Seite von Spezialisten für Hardware-Architektur, Compiler, Runtimes und Performance-Optimierung.
- Erkunden Sie KI-gestützte Entwicklung: Sammeln Sie praktische Erfahrungen bei der Arbeit mit KI-Coding-Agenten und gestalten Sie deren Interaktion mit fortschrittlichen Hardwaresystemen mit.
- Hinterlassen Sie einen bleibenden Eindruck: Helfen Sie bei der Entwicklung von Performance-Tools und Workflows, die sowohl aktuelle als auch zukünftige Generationen der Tensordyne-Technologie unterstützen werden.
Die Kultur von Tensordyne basiert auf den folgenden Werten:
- Stellen Sie den Menschen in den Mittelpunkt. Wir sind nur erfolgreich, wenn unsere Mitarbeiter erfolgreich sind.
- Ethik und Integrität stehen an erster Stelle. Seien Sie offen, ehrlich und respektvoll gegenüber jedem.
- Denken Sie groß. Seien Sie ehrgeizig und haben Sie kühne Ziele.
- Streben Sie nach Exzellenz. Qualität und Exzellenz zählen bei allem, was wir tun.
- Übernehmen Sie Verantwortung und setzen Sie es um. Ergebnisse zählen!
- Machen Sie jeden Einzelnen gemeinsam besser, als er es als Individuum wäre.
- Akzeptieren Sie die Unterschiede der anderen und akzeptieren Sie, dass es Unterschiede geben wird.
Tensordyne ist ein Arbeitgeber, der Chancengleichheit fördert. Wir glauben, dass vielfältige Teams besser in der Lage sind, komplexe Probleme zu lösen und außergewöhnliche Technologien zu entwickeln. Alle qualifizierten Bewerber erhalten eine Berücksichtigung für eine Anstellung ohne Rücksicht auf Alter, Hautfarbe, Geschlechtsidentität oder -ausdruck, Familienstand, nationale Herkunft, Behinderung, geschützten Veteranenstatus, Rasse, Religion, Schwangerschaft, sexuelle Orientierung oder andere durch geltende Gesetze, Vorschriften und Verordnungen geschützte Merkmale.
Ein Hinweis an Personalvermittlungsagenturen: Bitte kontaktieren Sie keine Mitarbeiter oder Führungskräfte von Tensordyne bezüglich dieser Rolle. Wir akzeptieren keine unaufgeforderten Agentur-Bewerbungen und sind nicht verantwortlich für Gebühren, die mit unaufgeforderten Einreichungen verbunden sind.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen