Estados Unidos
B&A
Anthropic
Staff + Senior Software Engineer, Infraestrutura de Inferência
Estados Unidos
Seattle, Washington, Estados Unidos · San Francisco, California, Estados Unidos · New York, New York, Estados Unidos
PythonAWSGCPKubernetesRust
Tradução automática. Consulte o original.
SOBRE A ANTHROPIC
A Anthropic tem a missão de criar sistemas de IA confiáveis, interpretáveis e direcionáveis. Queremos que a IA seja segura e benéfica para nossos usuários e para a sociedade como um todo. Nossa equipe é um grupo em rápido crescimento de pesquisadores, engenheiros, especialistas em políticas e líderes empresariais comprometidos, trabalhando juntos para construir sistemas de IA benéficos.
SOBRE A VAGA
Nossa equipe de Inferência é responsável por construir e manter os sistemas críticos que atendem o Claude para milhões de usuários em todo o mundo. Damos vida ao Claude servindo nossos modelos através das maiores implantações de inferência agnósticas de computação da indústria. Somos responsáveis por toda a pilha, desde o roteamento inteligente de requisições até a orquestração em toda a frota em diversos aceleradores de IA. A equipe tem um duplo mandato: maximizar a eficiência computacional para atender de forma confiável nosso crescimento explosivo de clientes, ao mesmo tempo em que habilita pesquisas inovadoras, fornecendo aos nossos cientistas a infraestrutura de inferência de alto desempenho de que precisam para desenvolver modelos de próxima geração. Lidamos com desafios complexos de sistemas distribuídos em múltiplas famílias de aceleradores e hardware de IA emergente executando em múltiplas plataformas de nuvem.
Os sistemas de inferência são sistemas distribuídos altamente sensíveis ao desempenho.
A inferência atende centenas de milhares de clientes todos os dias, e o tamanho e o escopo da frota de inferência exigem sistemas sofisticados de roteamento, escalonamento e rede.
PRINCIPAIS RESPONSABILIDADES
- Projetar, construir e manter os sistemas distribuídos que atendem o Claude para milhões de usuários em todo o mundo
- Desenvolver sistemas resilientes e flexíveis que se adaptam em tempo real a eventos do mundo real
- Desenvolver sistemas inteligentes de roteamento de requisições, balanceamento de carga e gerenciamento de tráfego em milhares de aceleradores
- Maximizar a eficiência computacional em toda a frota através de autoescalonamento e orquestração de cargas de trabalho de produção, pesquisa e experimentais
- Construir e operar pipelines de implantação de nível de produção para lançar novos modelos para os usuários
- Fornecer infraestrutura de inferência de alto desempenho que permite aos pesquisadores desenvolver modelos de próxima geração
- Integrar novas plataformas de aceleradores de IA e dar suporte à inferência para novas arquiteturas de modelos
QUALIFICAÇÕES MÍNIMAS
- Experiência significativa em engenharia de software, particularmente com sistemas distribuídos
- Orientado a resultados, com viés para flexibilidade e impacto
- Disposição para ajudar, mesmo que vá além da sua descrição de cargo
- Desejo de aprender mais sobre sistemas e infraestrutura de machine learning
- Prosperar em ambientes onde a excelência técnica impulsiona diretamente tanto os resultados de negócios quanto os avanços em pesquisa
- Preocupação com os impactos sociais do seu trabalho
QUALIFICAÇÕES PREFERENCIAIS
- Experiência com sistemas distribuídos de larga escala e alto desempenho
- Experiência na implementação e implantação de sistemas de machine learning em escala
- Experiência com sistemas de balanceamento de carga, roteamento de requisições ou gerenciamento de tráfego
- Familiaridade com otimização de inferência, estratégias de batching e caching de LLM
- Experiência com Kubernetes e infraestrutura de nuvem (AWS, GCP, Azure)
- Proficiência em Python ou Rust
PROJETOS REPRESENTATIVOS
- Projetar algoritmos de roteamento inteligentes que otimizam a distribuição de requisições entre muitos aceleradores em diferentes ambientes
- Autoescalonar nossa frota de computação para corresponder dinamicamente à oferta com a demanda em cargas de trabalho de produção, pesquisa e experimentais
- Construir pipelines de implantação de nível de produção para lançar novos modelos para milhões de usuários de forma confiável
- Contribuir para novos recursos de inferência
- Dar suporte à inferência para novas arquiteturas de modelos
- Analisar dados de observabilidade para ajustar o desempenho com base em cargas de trabalho de produção do mundo real
- Gerenciar implantações multirregionais e roteamento geográfico para clientes globais
Prazo para inscrição: Nenhum. As candidaturas serão revisadas continuamente.
A faixa de remuneração anual para esta função está listada abaixo.
Para funções de vendas, a faixa fornecida é a faixa de "On Target Earnings" ("OTE") da função, o que significa que a faixa inclui tanto as comissões de vendas/bônus de vendas alvo quanto o salário base anual para a função.
Salário Anual: $320,000—$485,000 USD
LOGÍSTICA
Educação mínima: Bacharelado ou uma combinação equivalente de educação, treinamento e/ou experiência
Campo de estudo exigido: Um campo relevante para a função, conforme demonstrado por cursos, treinamento ou experiência profissional
Anos mínimos de experiência: Os anos de experiência exigidos se correlacionarão com os requisitos de nível de cargo interno para a posição
Política híbrida baseada em localização: Atualmente, esperamos que todos os funcionários estejam em um de nossos escritórios pelo menos 25% do tempo. No entanto, algumas funções podem exigir mais tempo em nossos escritórios.
Patrocínio de visto: Nós patrocinamos vistos! No entanto, não conseguimos patrocinar vistos com sucesso para todas as funções e todos os candidatos. Mas se fizermos uma oferta, faremos todos os esforços razoáveis para conseguir um visto para você, e mantemos um advogado de imigração para ajudar com isso.
Encorajamos você a se candidatar, mesmo que não atenda a todas as qualificações. Nem todos os candidatos fortes atenderão a todas as qualificações listadas. A pesquisa mostra que pessoas que se identificam como pertencentes a grupos sub-representados são mais propensas a experimentar a síndrome do impostor e duvidar da força de sua candidatura, então pedimos que você não se exclua prematuramente e envie uma candidatura se estiver interessado neste trabalho. Acreditamos que sistemas de IA como os que estamos construindo têm enormes implicações sociais e éticas. Achamos que isso torna a representação ainda mais importante, e nos esforçamos para incluir uma variedade de perspectivas diversas em nossa equipe.
Sua segurança é importante para nós. Para se proteger de possíveis golpes, lembre-se de que recrutadores da Anthropic entram em contato apenas de endereços de e-mail @anthropic.com.
Em alguns casos, podemos fazer parceria com agências de recrutamento verificadas que se identificarão como trabalhando em nome da Anthropic. Tenha cuidado com e-mails de outros domínios. Recrutadores legítimos da Anthropic nunca pedirão dinheiro, taxas ou informações bancárias antes do seu primeiro dia. Se você tiver alguma dúvida sobre uma comunicação, não clique em nenhum link — visite anthropic.com/careers anthropic.com/careers diretamente para ver as vagas confirmadas.
Orientação sobre o Uso de IA por Candidatos: Saiba mais sobre nossa política anthropic.com/candidate-ai-guidance para o uso de IA em nosso processo de candidatura.
COMO SOMOS DIFERENTES
Acreditamos que a pesquisa de IA de maior impacto será "big science". Na Anthropic, trabalhamos como uma única equipe coesa em apenas alguns esforços de pesquisa em larga escala. E valorizamos o impacto — avançar em nossos objetivos de longo prazo de IA direcionável e confiável — em vez de trabalhar em quebra-cabeças menores e mais específicos. Vemos a pesquisa de IA como uma ciência empírica, que tem tanto em comum com a física e a biologia quanto com os esforços tradicionais da ciência da computação. Somos um grupo extremamente colaborativo e realizamos discussões de pesquisa frequentes para garantir que estamos buscando o trabalho de maior impacto em qualquer momento. Como tal, valorizamos muito as habilidades de comunicação.
A maneira mais fácil de entender nossas direções de pesquisa é ler nossas pesquisas recentes. Esta pesquisa continua muitas das direções em que nossa equipe trabalhou antes da Anthropic, incluindo: GPT-3, Interpretabilidade Baseada em Circuitos, Neurônios Multimodais, Leis de Escalonamento, IA e Computação, Problemas Concretos em Segurança de IA e Aprendizado com Preferências Humanas.
VENHA TRABALHAR CONOSCO!
A Anthropic é uma corporação de benefício público sediada em São Francisco. Oferecemos remuneração e benefícios competitivos, correspondência opcional de doação de ações, férias generosas e licença parental, horários de trabalho flexíveis e um espaço de escritório agradável para colaborar com colegas.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil