Estados Unidos
Deloitte
True Talent Solutions Partners
Member of Technical Staff, ML Systems
Estados Unidos
Menlo Park, California, Estados Unidos
Traducción automática. Consulta el original.
Sobre el puesto
Únete a un equipo de IA/ML que desarrolla sistemas de entrenamiento e inferencia de alto rendimiento para cargas de trabajo de imagen, vídeo y modelos de mundo. Mejorarás la velocidad y la eficiencia en kernels de GPU, ejecución distribuida y servicio multinodo.
Lo que harás
- Optimizar el rendimiento del entrenamiento y la inferencia para cargas de trabajo de imagen, vídeo y modelos de mundo.
- Utilizar Nsight y herramientas relacionadas para identificar cuellos de botella en kernels, memoria, sistemas y clústeres.
- Implementar optimizaciones de GPU de bajo nivel con CUDA y Triton.
- Diseñar y mejorar motores de entrenamiento e inferencia distribuidos para modelos de difusión.
- Mejorar el rendimiento de la comunicación entre GPU y nodos utilizando NCCL, RDMA, InfiniBand o RoCE.
- Crear pruebas de rendimiento y de regresión para garantizar que las mejoras de rendimiento se mantengan en producción.
- Codiseñar kernels, entornos de ejecución y modelos teniendo en cuenta las características del hardware.
Lo que buscamos
- Al menos 2 años de experiencia en sistemas de entrenamiento o inferencia de deep learning, sistemas distribuidos o trabajos relacionados con sistemas de ML.
- Al menos 1 año de experiencia práctica en sistemas de ML o rendimiento de GPU en un puesto actual o reciente.
- Experiencia en la creación de funciones principales en un framework de inferencia o entrenamiento, como vLLM, SGLang, TensorRT-LLM o Megatron.
- Experiencia práctica escribiendo kernels de CUDA, CUTLASS, Triton o PTX para GPU de NVIDIA.
- Sólidos fundamentos de machine learning y ciencias de la computación, con una titulación en informática o un campo cuantitativo relacionado.
- Experiencia en la optimización del rendimiento de inferencia o entrenamiento, incluyendo kernels de GPU, entornos de ejecución o ejecución distribuida.
- Se valorará la experiencia con cargas de trabajo de difusión, vídeo, imagen u otras cargas de trabajo multimodales.
Compensación y beneficios
- Salario base: 180,000 $ a 230,000 $ anuales.
- Se ofrece patrocinio de visado.
Ubicación
Presencial en Menlo Park, California, Estados Unidos.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil