Aller au contenu

d-Matrix

Ingénieur Senior Staff spécialisé en inférence LLM

PythonC++
Traduction automatique. Consultez l’original.

Ce Rôle

Chez d-Matrix, nous nous concentrons sur le potentiel de l'IA générative pour transformer la technologie. Nous sommes à la pointe de l'innovation logicielle et matérielle, repoussant les limites du possible. Notre culture est basée sur le respect et la collaboration.

Nous valorisons l'humilité et croyons en la communication directe. Notre équipe est inclusive, et nos perspectives divergentes permettent de trouver de meilleures solutions. Nous recherchons des personnes passionnées par la résolution de défis et motivées par l'exécution. Prêt à trouver votre terrain de jeu ? Ensemble, nous pouvons contribuer à façonner les possibilités infinies de l'IA.

Le groupe D-Matrix Frontier est à la pointe de ce qui est possible avec l'inférence LLM sur du matériel hétérogène. Notre mission couvre le full stack: de la recherche de nouveaux cas d'utilisation et de modèles de déploiement novateurs à l'optimisation approfondie des noyaux d'inférence, en passant par la construction de systèmes de preuve de concept qui mettent en valeur le tissu computationnel unique de D-Matrix. Nous sommes une équipe de recherche appliquée et d'ingénierie qui évolue rapidement, livre des systèmes concrets et travaille directement avec les équipes produit et matérielles pour façonner la feuille de route.

Nous construisons les outils, les runtimes et les frameworks qui permettent aux modèles d'IA de pointe de fonctionner efficacement et de manière rentable sur des déploiements hétérogènes combinant le silicium D-Matrix avec des CPU, des GPU et des accélérateurs personnalisés. Notre travail alimente tout, des pipelines de benchmarking et d'évaluation aux services d'inférence de qualité production.

Nous recrutons des ingénieurs d'inférence de bout en bout qui sont à l'aise pour passer d'une idée de recherche novatrice à un système déployé et optimisé. Vous travaillerez à chaque niveau de la pile d'inférence, de l'optimisation au niveau du noyau à l'orchestration distribuée en passant par les APIs de service de haut niveau.

Ce rôle pourrait vous convenir si vous :

Qualifications Requises

  1. Possédez une intuition profonde des architectures modernes d'IA générative et savez comment en extraire des performances lors de l'inférence.
  1. Êtes familier avec les internes des frameworks d'inférence open-source (vLLM, SGLang, TensorRT-LLM, etc.) et pouvez les étendre ou les remplacer si nécessaire.
  1. Aimez explorer de nouveaux cas d'utilisation — explorer les topologies de déploiement hétérogènes et construire des POCs à un stade précoce qui valident de nouvelles idées.
  1. Êtes orienté résultats avec une forte tendance à l'action ; vous assumez les problèmes de bout en bout, du prototype à l'optimisation en passant par la passation.
  1. Êtes motivé par le travail à l'intersection du matériel novateur et des modèles de pointe et souhaitez que votre travail influence directement l'utilisation de la prochaine génération de silicium IA.
  1. Valorisez une communication claire et prospérez dans un environnement d'équipe restreint et axé sur la responsabilité.
  1. Diplôme de Bachelor en Informatique, Génie Électrique ou domaine connexe, et 10+ années d'expérience pertinente en ingénierie ou expérience équivalente démontrée.
  1. Solide maîtrise de Python et C/C++.
  1. Expérience pratique dans l'optimisation de l'inférence LLM — noyaux d'attention, cache KV, stratégies de batching, quantification (INT8/FP8/INT4).
  1. Expérience avec au moins un framework d'inférence majeur (vLLM, SGLang, TensorRT-LLM, ONNX Runtime ou similaire) au niveau contributeur.
  1. Familiarité avec la programmation de noyaux GPU (CUDA/Triton) et les outils de profilage de performance.

Responsabilités

  1. Identifier et prototyper les cas d'utilisation d'inférence LLM émergents adaptés aux déploiements sur matériel hétérogène.
  1. Construire des systèmes de preuve de concept convaincants qui démontrent les capacités de D-Matrix aux clients, partenaires et parties prenantes internes.
  1. Développer et optimiser des noyaux personnalisés et des optimisations au niveau des opérateurs pour maximiser le débit et minimiser la latence.
  1. Piloter les stratégies de quantification, de sparsité et de batching adaptées au modèle de calcul de D-Matrix.
  1. Construire et maintenir des runtimes d'inférence, des frameworks de service et des outils d'évaluation.
  1. Contribuer aux systèmes d'inférence distribuée : parallélisme tensoriel/pipeline, préremplissage/décodage désagrégé, gestion du cache KV.
  1. Travailler en étroite collaboration avec les architectes matériels pour fournir aux équipes firmware et compilateurs des informations exploitables sur les charges de travail d'inférence.
  1. Collaborer avec le développement produit et commercial pour traduire les POCs en démonstrations destinées aux clients.
  1. Contribuer aux publications techniques, livres blancs et projets open-source qui font progresser la visibilité de D-Matrix.

Qualifications Souhaitées

  1. Master ou Doctorat en Informatique, Génie Électrique ou domaine connexe préféré, avec 6+ années d'expérience pertinente dans l'industrie.
  1. Expérience avec les déploiements de calcul hétérogènes — planification des charges de travail d'inférence sur du matériel dissimilaire (accélérateurs, CPU, GPU).
  1. Familiarité avec le silicium personnalisé ou l'inférence basée sur ASIC (au-delà des environnements GPU uniquement).
  1. Expérience avec l'inférence distribuée : parallélisme tensoriel, parallélisme pipeline, service désagrégé.
  1. Contributions à des projets open-source d'inférence ou de systèmes ML.
  1. Expérience avec le service d'inférence en production à grande échelle (SLO de latence, batching continu, service multi-modèles).
  1. Familiarité avec le décodage spéculatif, le routage de mélange d'experts ou les techniques de service à long contexte.
  1. Familiarité pratique avec le matériel du JAX Scaling Book ou une compréhension équivalente au niveau système de l'entraînement et de l'inférence LLM modernes.

Pourquoi le groupe D-Matrix Frontier

  • Travaillez sur du matériel véritablement novateur : l'architecture de calcul en mémoire de D-Matrix ouvre des problèmes d'optimisation d'inférence qui n'existent nulle part ailleurs.
  • Propriété de bout en bout, de l'idée au système déployé, avec une boucle de rétroaction courte entre votre travail et le matériel réel.
  • Petite équipe senior avec une grande autonomie et une influence directe sur la direction du produit.
  • Rémunération compétitive, actions et avantages sociaux à Santa Clara, CA.

Politique d'égalité des chances en matière d'emploi

d-Matrix est fier d'être un lieu de travail qui respecte l'égalité des chances et un employeur qui applique des mesures d'action positive. Nous nous engageons à favoriser un environnement inclusif où chacun se sent le bienvenu et habilité à faire de son mieux. Nous recrutons les meilleurs talents pour nos équipes, indépendamment de la race, de la religion, de la couleur, de l'âge, du handicap, du sexe, de l'identité de genre, de l'orientation sexuelle, de l'ascendance, des informations génétiques, de l'état civil, de l'origine nationale, de l'affiliation politique ou du statut d'ancien combattant. Notre objectif est de recruter des coéquipiers dotés d'une expertise humble, de gentillesse, de dévouement et d'une volonté d'embrasser les défis et d'apprendre ensemble chaque jour.

d-Matrix n'accepte pas les CV ni les soumissions de candidats provenant d'agences externes. Nous apprécions l'intérêt et les efforts des cabinets de recrutement, mais nous demandons aux personnes intéressées par les opportunités chez d-Matrix de postuler directement via nos canaux officiels. Cette approche nous permet de rationaliser nos processus d'embauche et de maintenir une évaluation cohérente et équitable de tous les candidats. Merci de votre compréhension et de votre coopération.

Plus d’opportunités avec un seul profil

Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.

Créer mon profil

Vagas Dev est maintenu gratuitement par l’équipe NortJobs.

Votre prochain emploiest peut-être sur NortJobs.

Vagas Dev

Des emplois pour développeurs et programmeurs. Le Brésil en priorité. Votre prochaine opportunité.

NortJobs · soutien du projetInstagramLinkedInTwitter
Mentions légalesÀ propos du projetConfidentialitéVagas Dev © 2026