Eque2
Fractile
Développeur d'outils (Rust / Linux)
À propos du poste
Developer Experience / DevEx
Lieu : Bristol / Londres
Contrôles à l'exportation
Notre travail implique des technologies soumises aux réglementations britanniques, américaines et autres réglementations internationales en matière de contrôle des exportations. Certains postes peuvent nécessiter des vérifications d'éligibilité supplémentaires pour garantir la conformité avec la loi applicable. Nous serons transparents à ce sujet tout au long du processus d'embauche.
À propos de Fractile
Fractile a été fondée en 2022 sur le pari qu'à terme, les systèmes d'IA les plus performants au monde seraient limités dans leur impact par le temps nécessaire à la production de résultats utiles. Nous avons tout misé sur la conclusion logique : que la seule façon de libérer véritablement cette valeur latente, de rendre la vitesse viable à grande échelle, était de réinventer radicalement le matériel sur lequel nous exécutons nos modèles d'IA de pointe. Depuis, nous construisons des puces et des systèmes qui abordent ce problème : comment générer efficacement des sorties à des milliers de tokens par seconde, tout en gérant les défis de complexité et de capacité liés à l'exploitation de grands modèles sur des contextes très longs.
Les charges de travail qui poussent les frontières actuelles à leurs limites sont déjà transformationnelles ; ce sont les limites techniques et économiques de la vitesse d'inférence qui freinent le progrès. Le travail déterminant du 21e siècle sera marqué par le moteur d'inférence délivrant des chaînes immenses et diffuses d'investigation intellectuelle, dans la découverte de médicaments, en ingénierie logicielle, en découverte de matériaux, dans tout domaine où le progrès est motivé par un raisonnement profond et une intelligence pour résoudre des problèmes complexes.
Le Rôle
À propos de l'organisation logicielle chez Fractile
Developer Experience fait partie de l'organisation Logicielle chez Fractile, responsable du développement d'une pile logicielle complète pour nos systèmes d'inférence IA révolutionnaires. Cela inclut tout, des compilateurs ML, des pilotes de périphériques et du firmware système, au runtime au niveau applicatif et aux intégrations d'écosystèmes, des bibliothèques ML et de calcul, des excellents outils de développement et un portefeuille complet de simulateurs, jusqu'aux solutions de déploiement de charges de travail à l'échelle des centres de données. Chez Fractile, nous savons qu'une pile logicielle fantastique est une partie critique et centrale de toute solution d'inférence IA et elle se situe au cœur de tout ce que nous faisons.
À propos de l'équipe et du rôle
L'équipe Developer Experience chez Fractile contribue à façonner la manière dont nos clients interagissent avec l'accélérateur d'inférence Fractile. Nous travaillons dans toute l'entreprise pour identifier, créer et présenter des informations sur la façon dont le système est utilisé, tout en fournissant les outils pour aider à optimiser l'utilisation du système par nos clients, tout en maintenant une courbe d'apprentissage peu abrupte.
À propos de vous
Nous recherchons une personne autonome et capable d'identifier des opportunités d'outillage, de concevoir ces outils et de les livrer d'une manière qui s'intègre à la boîte à outils existante d'un ingénieur LLM. Vous avez déjà travaillé dans ce domaine, peut-être en tant que FDE ou dans une entreprise qui fournit des services d'inférence en utilisant ses propres modèles, et vous avez la capacité de développer de nouveaux outils conçus pour être fonctionnels et faciles à apprendre et à utiliser.
Fractile cherche à augmenter la vitesse d'horloge du progrès mondial, une puce à la fois. Nous avons récemment levé 220 millions de dollars auprès d'investisseurs, dont Founders Fund et Accel, et notre travail le plus important est devant nous. Rejoignez-nous !
En tant que membre de l'équipe Developer Experience, vous devrez comprendre l'état actuel du développement du matériel d'inférence. Vous devrez être capable d'identifier ce qui fonctionnera bien pour les ingénieurs souhaitant identifier des opportunités potentielles d'amélioration des performances, tout en sachant quels outils s'intégreront dans le flux de travail d'un ingénieur LLM existant avec un minimum de perturbation et d'effort.
Exigences Clés
- Expérience avec des frameworks d'inférence tels que JAX et/ou PyTorch
- Expérience en développement logiciel en Python, Rust, C/C++, ou un langage similaire
- Expérience en surveillance et optimisation de code écrit en CUDA, ROCm, OpenCL, ou similaire
- Expérience en surveillance et optimisation de déploiements LLM avec plus de 50 milliards de paramètres
- Expérience de travail avec des parties prenantes de plusieurs équipes
Ce Que Nous Offrons
- Salaire compétitif : Un salaire compétitif reflétant votre expérience et la nature spécialisée du rôle
- Équité & Propriété : une participation significative pour que chacun partage la création de valeur
- Avantages : Assurance médicale, dentaire et vision privée, régime de retraite contributif, 25 jours de congés plus les jours fériés et assurance décès/maladie grave
- Bureau diversifié et agréable : nous croyons que les problèmes les plus difficiles sont résolus par le plus large éventail d'esprits. Nous nous engageons à l'égalité des chances en matière d'emploi en attirant et en retenant une équipe diversifiée et en construisant un environnement inclusif.
