Gerente de Desenvolvimento de Software, Treinamento SageMaker

Interessado em construir os sistemas distribuídos que permitem aos clientes personalizar modelos de fundação em escala? A equipe de Treinamento e Personalização de Modelos SageMaker constrói os serviços que os clientes usam para ajustar e pós-treinar modelos de acordo com suas próprias metas de precisão, confiabilidade e custo. Estamos contratando um Gerente de Desenvolvimento de Software para liderar a equipe que possui essas capacidades.

A personalização de modelos é a camada de mais rápido movimento da pilha de machine learning. O pós-treinamento passou do ajuste fino supervisionado para o aprendizado por reforço contra recompensas verificáveis, e de tarefas de turno único para treinamento de agentes onde um modelo aprende agindo em um ambiente por longas trajetórias. Cada mudança altera a forma da carga de trabalho. O aprendizado por reforço coloca um motor de inferência dentro do loop de treinamento. O treinamento de agentes adiciona ambientes e chamadas de ferramentas, e move o gargalo de uma execução para a próxima. Sua equipe transforma cada nova técnica em uma capacidade que os clientes podem usar, sem reconstruir a plataforma toda vez que a pesquisa avança.

Por baixo das técnicas, este continua sendo um problema difícil de sistemas distribuídos. Os trabalhos de treinamento são executados em grandes frotas de aceleradores por dias a fio, e uma única falha de nó pode paralisar o trabalho. A equipe trabalha em PyTorch e em frameworks incluindo Verl, FSDP, Megatron e vLLM, e contribui para os projetos de código aberto dos quais a plataforma depende.

Como gerente, você é responsável pela equipe e seu escopo. Você contratará e desenvolverá engenheiros, definirá a direção técnica com seus engenheiros seniores e gerentes de produto, e decidirá o que a equipe constrói e o que não constrói. Você é responsável pelo roteiro e defenderá suas compensações com a liderança. Você é responsável pelo serviço em produção, incluindo a saúde em plantão, métricas operacionais e as solicitações que vêm com o fato de estar no caminho crítico das cargas de trabalho de treinamento do cliente.

Sua manhã começa em uma revisão de design. A equipe está trabalhando em como manter um motor de inferência e um motor de treinamento no mesmo loop para aprendizado por reforço sem deixar os aceleradores ociosos, e a resposta moldará o futuro da plataforma. Você se aprofunda em possíveis cenários, porque nessa escala um nó morre rotineiramente e a recuperação tem que ser normal em vez de excepcional.

Em seguida, uma chamada de escopo. Uma nova técnica de pós-treinamento está a três meses da literatura de pesquisa e dois clientes já a estão solicitando. Com seus engenheiros seniores e gerente de produto, você decide se ela se tornará uma capacidade de primeira classe, uma receita sobre o que você já tem, ou um não. Essa decisão é sua, e a indústria não espera por ela.

Você passa uma hora em 1:1, incluindo uma conversa de carreira com um engenheiro que quer ser responsável pelo trabalho de paralelismo. Após o almoço, você participa de um debriefing de contratação e toma a decisão. Mais tarde, você se reúne com os cientistas aplicados para entender o que eles validaram, e você discute o sequenciamento.

Você encerra o dia escrevendo uma página para a liderança: o que você não está construindo neste semestre, e por que essa é a compensação correta.

Sobre a equipe

Construímos os serviços gerenciados que os clientes usam para personalizar modelos de fundação. Um cliente traz uma tarefa, um conjunto de dados e uma maneira de pontuar uma boa resposta. Nossos serviços executam o loop de pós-treinamento em nome deles. Nós somos responsáveis por todo esse caminho, desde a API voltada para o cliente até a infraestrutura da sessão de treinamento e a frota de aceleradores em que ela é executada.

Isso torna este um escopo fundamental. A personalização de modelos é como um cliente transforma um modelo geral em um que é seu, e toda experiência de personalização no SageMaker é construída sobre o que entregamos. Quando adicionamos uma técnica, ela se torna disponível para todos os clientes na plataforma. Quando tornamos o loop de treinamento mais rápido, o trabalho de cada cliente fica mais barato.

Amazon é um empregador que oferece igualdade de oportunidades e não discrimina com base no status de veterano protegido, deficiência ou outro status legalmente protegido.

Candidatos do Condado de Los Angeles: As funções deste cargo incluem: trabalhar com segurança e cooperação com outros funcionários, supervisores e pessoal; aderir aos padrões de excelência apesar de condições estressantes; comunicar de forma eficaz e respeitosa com funcionários, supervisores e pessoal para garantir um atendimento excepcional ao cliente; e seguir todas as leis federais, estaduais e locais e políticas da Empresa. O histórico criminal pode ter uma relação direta, adversa e negativa com algumas das principais funções deste cargo. Isso inclui as funções e responsabilidades listadas acima, bem como a capacidade de aderir às políticas da empresa, exercer bom senso, gerenciar o estresse de forma eficaz e trabalhar com segurança e respeito com os outros, exibir confiabilidade e profissionalismo, e salvaguardar as operações comerciais e a reputação da Empresa. De acordo com o Decreto de Oportunidade Justa do Condado de Los Angeles, consideraremos para emprego candidatos qualificados com registros de prisão e condenação.

Nossa cultura inclusiva capacita os Amazonianos a entregar os melhores resultados para nossos clientes. Se você tem uma deficiência e precisa de acomodação ou ajuste no local de trabalho durante o processo de inscrição e contratação, incluindo suporte para o processo de entrevista ou integração, visite amazon.jobs/content/en/how-we-hire/accommodations para mais informações. Se o país/região em que você está se candidatando não estiver listado, entre em contato com seu Parceiro de Recrutamento.

EUA, CA, Santa Clara - 212,700.00 - 287,700.00 anualmente USD

A faixa salarial base para esta posição é apresentada abaixo. Seu pacote Amazon incluirá pagamentos de contratação e unidades de ações restritas (RSUs). A remuneração final será determinada com base em fatores como experiência, qualificações e localização. A Amazon também oferece benefícios abrangentes, incluindo seguro saúde (médico, odontológico, oftalmológico, prescrição, seguro Básico de Vida e Morte Acidental e opção de planos suplementares de vida, EAP, Suporte de Saúde Mental, Linha de Aconselhamento Médico, Contas de Despesas Flexíveis, cobertura de Reembolso de Adoção e Barriga de Aluguel), correspondência 401(k), tempo de folga remunerado e licença parental. Saiba mais sobre nossos benefícios em amazon.jobs/en/benefits.