Murphy AI
SEMRON GmbH
Arquitecto Senior de SoC
Sobre el puesto
El enfoque único de SEMRON, basado en la tecnología patentada CapRAM™, permite la inferencia de LLM transfiriendo únicamente activaciones hacia y desde los chips de memoria. Esto resulta en un coste operativo total mucho menor debido a múltiples razones, incluyendo un empaquetado mucho más económico en comparación con HBM.
Con CapRAM™, somos capaces de calcular productos escalares directamente dentro de 3D-NAND-Flash. Todos los cálculos y movimientos de datos restantes se realizan en un SoC conectado directamente a esta memoria con capacidad de computación. En este puesto, liderarás el desarrollo de los detalles de la arquitectura digital combinando SRAM, unidades DMA, CPUs, procesadores vectoriales, routers y unidades de comunicación de chiplets de acuerdo con las especificaciones ya desarrolladas por el equipo de SEMRON.
Qué harás
- Diseñar y liderar la implementación del SoC para los chiplets de nuestra generación de hardware Aloe
- Analizar y evaluar las compensaciones relativas a los detalles del diseño microarquitectónico
- Colaborar estrechamente con los equipos de arquitectura de sistemas, compiladores, diseño digital y verificación
Qué deberías aportar
- 5+ años de experiencia traduciendo requisitos de alto nivel en una dirección arquitectónica detallada
- 3+ años de experiencia construyendo aceleradores para cargas de trabajo de ML
- Disposición para colaborar entre equipos de diseño, verificación y software para mantener el ritmo de ejecución
Útil, pero no obligatorio
- Conocimiento profundo de los detalles de servicio de LLMs modernos en un entorno de centro de datos
- Experiencia con arquitecturas de flujo de datos para cargas de trabajo de ML
¿Por qué nosotros?
Sobre nosotros
En SEMRON, estamos redefiniendo lo que es posible en hardware de IA. Nuestra innovación principal reside en la computación analógica en memoria para la aceleración de redes neuronales profundas, lo que nos permite construir arquitecturas de computación que escalan verticalmente hacia la tercera dimensión, de forma muy similar a como la memoria NAND flash revolucionó el almacenamiento. Este salto en densidad física nos permite desplegar modelos con miles de millones de parámetros en áreas de chip tan pequeñas como unos pocos milímetros cuadrados.
