Murphy AI
SEMRON GmbH
Arquiteto de SoC Sênior
Sobre a vaga
A abordagem exclusiva da SEMRON, baseada na tecnologia proprietária CapRAM™, permite a inferência de LLM transferindo apenas ativações de/para matrizes de memória. Isso resulta em um custo total de operação muito menor devido a vários fatores, incluindo um empacotamento muito mais barato em comparação com HBM.
Com a CapRAM™, somos capazes de calcular produtos escalares diretamente dentro de 3D-NAND-Flash. Todos os cálculos e movimentações de dados restantes são realizados em um SoC conectado diretamente a essa memória com capacidade de computação. Nesta função, você liderará o desenvolvimento dos detalhes da arquitetura digital, combinando SRAM, unidades DMA, CPUs, processadores vetoriais, roteadores e unidades de comunicação de chiplets de acordo com as especificações já desenvolvidas pela equipe da SEMRON.
O que você fará
- Projetar e liderar a implementação do SoC para os chiplets da nossa geração de hardware Aloe
- Analisar e avaliar trade-offs em relação aos detalhes do design microarquitetural
- Colaborar estreitamente com as equipes de arquitetura de sistemas, compiladores, design digital e verificação
O que você deve trazer
- 5+ anos de experiência na tradução de requisitos de alto nível em diretrizes arquiteturais detalhadas
- 3+ anos de experiência na criação de aceleradores para cargas de trabalho de ML
- Disposição para colaborar entre equipes de design, verificação e software para manter a execução em movimento
Diferenciais, mas não obrigatórios
- Conhecimento profundo dos detalhes de servir LLMs modernos em um ambiente de datacenter
- Experiência com arquiteturas de fluxo de dados para cargas de trabalho de ML
Por que nós?
Sobre nós
Na SEMRON, estamos redefinindo o que é possível em hardware de IA. Nossa inovação central reside na computação analógica em memória para aceleração de redes neurais profundas, permitindo-nos construir arquiteturas de computação que escalam verticalmente para a terceira dimensão, assim como a memória NAND flash revolucionou o armazenamento. Esse salto na densidade física nos permite implantar modelos com bilhões de parâmetros em áreas de chip tão pequenas quanto alguns milímetros quadrados.
