Estados Unidos
Deloitte
True Talent Solutions Partners
Membro da Equipe Técnica, Sistemas de ML
Estados Unidos
Menlo Park, California, Estados Unidos
Tradução automática. Consulte o original.
Sobre a Vaga
Junte-se a uma equipe de IA/ML que desenvolve sistemas de treinamento e inferência de alto desempenho para cargas de trabalho de imagem, vídeo e modelos de mundo. Você irá aprimorar a velocidade e a eficiência em kernels de GPU, execução distribuída e servimento multi-nó.
O que você fará
- Otimizar o desempenho de treinamento e inferência para cargas de trabalho de imagem, vídeo e modelos de mundo.
- Utilizar o Nsight e ferramentas relacionadas para identificar gargalos em kernels, memória, sistemas e clusters.
- Implementar otimizações de baixo nível para GPU com CUDA e Triton.
- Projetar e aprimorar mecanismos de treinamento e inferência distribuídos para modelos de difusão.
- Melhorar o desempenho de comunicação entre GPUs e nós usando NCCL, RDMA, InfiniBand ou RoCE.
- Criar benchmarks e testes de regressão para garantir que as melhorias de desempenho sejam mantidas em produção.
- Co-projetar kernels, runtimes e modelos considerando as características do hardware.
O que buscamos
- Pelo menos 2 anos de experiência em sistemas de treinamento ou inferência de deep learning, sistemas distribuídos ou trabalho relacionado a sistemas de ML.
- Pelo menos 1 ano de experiência prática em sistemas de ML ou desempenho de GPU em uma função atual ou recente.
- Experiência na criação de funcionalidades principais em um framework de inferência ou treinamento, como vLLM, SGLang, TensorRT-LLM ou Megatron.
- Experiência prática escrevendo kernels CUDA, CUTLASS, Triton ou PTX para GPUs NVIDIA.
- Sólidos fundamentos em machine learning e ciência da computação, com diploma em ciência da computação ou área quantitativa relacionada.
- Experiência na otimização de desempenho de inferência ou treinamento, incluindo kernels de GPU, runtimes ou execução distribuída.
- Experiência com cargas de trabalho de difusão, vídeo, imagem ou outras cargas multimodais é um diferencial.
Remuneração e Benefícios
- Salário base: $180,000 a $230,000 anuais.
- Patrocínio de visto disponível.
Localização
Presencial em Menlo Park, Califórnia, Estados Unidos.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil