CONCEPT SOLUTIONS LLC
NVIDIA
Engenheiro Sênior de Comunicações em Frameworks de Deep Learning
Sobre a oportunidade
NVIDIA está liderando o caminho em desenvolvimentos inovadores em Inteligência Artificial, Computação de Alto Desempenho e Visualização. A GPU, nossa invenção, serve como o córtex visual dos computadores modernos e está no centro de nossos produtos e serviços. Nosso trabalho abre novos universos para explorar, possibilita criatividade e descobertas incríveis, e impulsiona o que antes eram invenções de ficção científica, desde inteligência artificial até carros autônomos.
Estamos procurando um engenheiro de Deep Learning motivado para trazer tecnologias de comunicação avançadas para pilhas de IA, incluindo PyTorch, TRT-LLM, vLLM, SGLang, JAX, etc. Você trabalhará com a equipe que criou bibliotecas de comunicação como NCCL, NVSHMEM e tecnologias como GPUDirect -- para escalonamento de aplicações de Deep Learning e HPC. Seus clientes terão diversas demandas multi-GPU, variando desde treinamento em escalas de até 100K GPUs até inferência com latência de microssegundos. O desempenho da comunicação entre as GPUs tem um impacto direto nas aplicações de IA. Seu trabalho em toolkits de IA tornará tudo isso mais fácil para a comunidade. Esta é uma oportunidade excepcional para alguém com experiência em IA avançar o estado da arte neste campo. Você está pronto para contribuir para o desenvolvimento de tecnologias inovadoras e ajudar a realizar a visão da NVIDIA?
O que você fará: *
- Integrar novos recursos de bibliotecas de comunicação em frameworks de IA: de PoC à análise de desempenho e produção *
- Realizar análise profunda de cargas de trabalho e frameworks de IA para identificar requisitos e oportunidades de comunicação multi-GPU. Colaborar ativamente com equipes que trabalham nos modelos de IA mais recentes. *
- Melhorar compiladores de IA para ocultar comunicações ou realizar fusão automática. *
- Conduzir caracterização de desempenho aprofundada de cargas de trabalho de IA em clusters multi-GPU. *
- Projetar soluções tolerantes a falhas e elásticas para cargas de trabalho de IA em larga escala ou dinâmicas. *
- Criar kernels customizados de comunicação ou computação-comunicação fundidos para demonstrar o desempenho máximo em plataformas NV. *
- Influenciar o roadmap das bibliotecas de comunicação - NCCL & NVSHMEM. *
- Colaborar com uma equipe muito dinâmica em múltiplos fusos horários.
O que precisamos ver: *
- Bacharelado, Mestrado ou Doutorado em Ciência da Computação ou área relacionada (ou experiência equivalente) com 8+ anos de experiência em engenharia de software e HPC/IA *
- Experiência em desenvolvimento ou integração com Frameworks de Deep Learning como PyTorch, JAX, e Motores de Inferência como TRT-LLM, vLLM, SGLang *
- Prototipagem rápida e desenvolvimento com Python, C++, CUDA ou DSLs relacionados (Triton, cuTe) *
- Sólido entendimento de modelos de IA, paralelismos e/ou tecnologias de compiladores (ex: torch.compile) *
- Experiência em benchmarking de desempenho em clusters de IA. Familiaridade com pelo menos uma ferramenta de profiling de desempenho (PyTorch profiler, NVIDIA Nsight Systems) *
- Compreensão de conceitos de comunicação HPC/IA (comunicação 1-lado vs 2-lado, elasticidade, resiliência, descoberta de topologia, etc.) *
- Adaptabilidade e paixão por aprender novas áreas e ferramentas *
- Flexibilidade para trabalhar e comunicar efetivamente entre diferentes equipes e fusos horários.
Formas de se destacar na multidão: *
- Experiência com programação paralela em pelo menos um runtime de comunicação (NCCL, NVSHMEM, MPI). Bom entendimento de arquitetura de sistemas computacionais, interações HW-SW e princípios de sistemas operacionais (também conhecidos como fundamentos de software de sistemas) *
- Expertise em uma ou mais das seguintes áreas: Treinamento, Inferência Distribuída, MoE, Aprendizado por Reforço, autoria de kernels (em CUDA, Triton, cuTe, etc.). Experiência com programação para sobreposição de computação e comunicação em runtimes distribuídos *
- Experiência com correspondência de padrões e redução em compiladores de IA. Sólido entendimento de hierarquia de memória, modelo de consistência e layout de tensor.
Seu salário base será determinado com base em sua localização, experiência e remuneração de funcionários em posições semelhantes. A faixa salarial base é de 184,000 USD - 287,500 USD para o Nível 4, e 224,000 USD - 356,500 USD para o Nível 5.
As candidaturas para esta vaga serão aceitas pelo menos até outubro de 17, 2026.
Esta publicação é para uma vaga existente.
NVIDIA utiliza ferramentas de IA em seus processos de recrutamento.
NVIDIA está comprometida em promover um ambiente de trabalho inclusivo e se orgulha de ser um empregador que oferece igualdade de oportunidades. Como valorizamos muito a diversidade em nossos funcionários atuais e futuros, não discriminamos (incluindo em nossas práticas de contratação e promoção) com base em raça, religião, cor, origem nacional, gênero, expressão de gênero, orientação sexual, idade, estado civil, status de veterano, status de deficiência ou qualquer outra característica protegida por lei.
Você também será elegível para ações e benefícios nvidia.com/en-us/benefits/.
