Vereinigte Staaten
B&A
Anthropic
Staff + Senior Software Engineer, Inference Infrastructure
Vereinigte Staaten
Seattle, Washington, Vereinigte Staaten · San Francisco, California, Vereinigte Staaten · New York, New York, Vereinigte Staaten
PythonAWSGCPKubernetesRust
Automatische Übersetzung. Prüfe das Original.
ÜBER ANTHROPIC
Die Mission von Anthropic ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer sowie für die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikexperten und Führungskräfte, die gemeinsam an der Entwicklung vorteilhafter KI-Systeme arbeiten.
ÜBER DIE ROLLE
Unser Inference-Team ist verantwortlich für den Aufbau und die Wartung der kritischen Systeme, die Claude für Millionen von Nutzern weltweit bereitstellen. Wir erwecken Claude zum Leben, indem wir unsere Modelle über die branchenweit größten Compute-agnostischen Inferenz-Deployments bereitstellen. Wir sind verantwortlich für den gesamten Stack, von intelligentem Request-Routing bis hin zur Flotten-weiten Orchestrierung über verschiedene KI-Beschleuniger hinweg. Das Team hat ein doppeltes Mandat: Maximierung der Compute-Effizienz, um unser explosives Kundenwachstum zuverlässig zu bedienen, und Ermöglichung bahnbrechender Forschung, indem wir unseren Wissenschaftlern die Hochleistungs-Inferenzinfrastruktur zur Verfügung stellen, die sie für die Entwicklung von Modellen der nächsten Generation benötigen. Wir bewältigen komplexe, verteilte Systemherausforderungen über mehrere Beschleunigerfamilien und aufkommende KI-Hardware hinweg, die auf mehreren Cloud-Plattformen laufen.
Inferenzsysteme sind hochgradig performance-sensible verteilte Systeme.
Die Inferenz bedient täglich Hunderttausende von Kunden, und die Größe und Reichweite der Inferenzflotte erfordert ausgeklügelte Routing-, Skalierungs- und Netzwerksysteme.
HAUPTAUFGABEN
- Entwerfen, Erstellen und Warten der verteilten Systeme, die Claude für Millionen von Nutzern weltweit bereitstellen
- Entwickeln von resilienten, flexiblen Systemen, die sich in Echtzeit an reale Ereignisse anpassen
- Entwickeln von intelligenten Systemen für Request-Routing, Load Balancing und Traffic Management über Tausende von Beschleunigern hinweg
- Maximieren der Compute-Effizienz über die gesamte Flotte hinweg durch Autoskalierung und Orchestrierung von Produktions-, Forschungs- und experimentellen Workloads
- Erstellen und Betreiben von produktionsreifen Deployment-Pipelines für die Veröffentlichung neuer Modelle für Nutzer
- Bereitstellen von Hochleistungs-Inferenzinfrastruktur, die es Forschern ermöglicht, Modelle der nächsten Generation zu entwickeln
- Integrieren neuer KI-Beschleunigerplattformen und Unterstützen der Inferenz für neue Modellarchitekturen
MINDESTQUALIFIKATIONEN
- Signifikante Erfahrung in der Softwareentwicklung, insbesondere mit verteilten Systemen
- Ergebnisorientiert, mit einer Neigung zu Flexibilität und Wirkung
- Bereitschaft, Mehrarbeit zu leisten, auch wenn sie über Ihre Stellenbeschreibung hinausgeht
- Wunsch, mehr über machine learning-Systeme und -Infrastruktur zu lernen
- Gedeihen in Umgebungen, in denen technische Exzellenz sowohl Geschäftsergebnisse als auch Forschungsdurchbrüche direkt vorantreibt
- Sich um die gesellschaftlichen Auswirkungen Ihrer Arbeit kümmern
BEVORZUGTE QUALIFIKATIONEN
- Erfahrung mit Hochleistungs-, großskaligen verteilten Systemen
- Erfahrung in der Implementierung und Bereitstellung von machine learning-Systemen im großen Maßstab
- Erfahrung mit Systemen für Load Balancing, Request Routing oder Traffic Management
- Vertrautheit mit LLM-Inferenzoptimierung, Batching und Caching-Strategien
- Erfahrung mit Kubernetes und Cloud-Infrastruktur (AWS, GCP, Azure)
- Beherrschung von Python oder Rust
BEISPIELPROJEKTE
- Entwerfen von intelligenten Routing-Algorithmen, die die Request-Verteilung über viele Beschleuniger in verschiedenen Umgebungen optimieren
- Autoskalierung unserer Compute-Flotte, um Angebot und Nachfrage über Produktions-, Forschungs- und experimentelle Workloads hinweg dynamisch abzugleichen
- Erstellen von produktionsreifen Deployment-Pipelines für die zuverlässige Veröffentlichung neuer Modelle für Millionen von Nutzern
- Beitrag zu neuen Inferenzfunktionen
- Unterstützung der Inferenz für neue Modellarchitekturen
- Analyse von Observability-Daten zur Leistungsoptimierung basierend auf realen Produktions-Workloads
- Verwaltung von Multi-Region-Deployments und geografischem Routing für globale Kunden
Bewerbungsfrist: Keine. Bewerbungen werden fortlaufend geprüft.
Die unten aufgeführte Gehaltsspanne gilt für diese Rolle.
Für Vertriebsrollen ist die angegebene Spanne die Ziel-Gesamtvergütung ("OTE") für die Rolle, d. h. die Spanne beinhaltet sowohl die Zielprovisionen/Boni als auch das Jahresgrundgehalt für die Rolle.
Jahresgehalt: $320,000—$485,000 USD
LOGISTIK
Mindestbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung
Erforderliches Studienfach: Ein für die Rolle relevantes Fach, nachgewiesen durch Kurse, Schulungen oder berufliche Erfahrung
Mindestjahre an Erfahrung: Die erforderliche Berufserfahrung korreliert mit den internen Anforderungen für die jeweilige Karrierestufe der Position.
Standortbezogene Hybrid-Richtlinie: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25% der Zeit in einem unserer Büros anwesend sind. Einige Rollen erfordern jedoch möglicherweise mehr Zeit in unseren Büros.
Visumsponsorship: Wir sponsern Visa! Allerdings können wir nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Aber wenn wir Ihnen ein Angebot machen, werden wir alle zumutbaren Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir beauftragen einen Einwanderungsanwalt, um dabei zu helfen.
Wir ermutigen Sie, sich auch dann zu bewerben, wenn Sie glauben, nicht jede einzelne Qualifikation zu erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne aufgeführte Qualifikation. Studien zeigen, dass Menschen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, eher unter dem Impostor-Syndrom leiden und an ihrer Kandidatur zweifeln. Daher bitten wir Sie dringend, sich nicht voreilig auszuschließen und sich zu bewerben, wenn Sie an dieser Arbeit interessiert sind. Wir glauben, dass KI-Systeme wie die, die wir entwickeln, enorme soziale und ethische Auswirkungen haben. Wir glauben, dass dies die Repräsentation noch wichtiger macht, und wir bemühen uns, eine Reihe von vielfältigen Perspektiven in unserem Team zu vereinen.
Ihre Sicherheit ist uns wichtig. Um sich vor möglichen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Recruiter Sie nur von E-Mail-Adressen @anthropic.com kontaktieren.
In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalvermittlungsagenturen zusammen, die sich als im Auftrag von Anthropic arbeitend ausweisen. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Anthropic-Recruiter werden Sie niemals vor Ihrem ersten Tag nach Geld, Gebühren oder Bankinformationen fragen. Wenn Sie sich jemals über eine Kommunikation unsicher sind, klicken Sie nicht auf Links – besuchen Sie anthropic.com/careers anthropic.com/careers direkt, um bestätigte Stellenangebote zu finden.
Leitfaden zur KI-Nutzung durch Bewerber: Erfahren Sie mehr über unsere Richtlinien anthropic.com/candidate-ai-guidance zur Nutzung von KI in unserem Bewerbungsprozess.
WIE WIR UNTERSCHEIDEN
Wir glauben, dass die wirkungsvollste KI-Forschung "Big Science" sein wird. Bei Anthropic arbeiten wir als ein einziges, zusammenhängendes Team an nur wenigen groß angelegten Forschungsinitiativen. Und wir schätzen Wirkung – die Förderung unserer langfristigen Ziele einer steuerbaren, vertrauenswürdigen KI – gegenüber der Arbeit an kleineren und spezifischeren Problemen. Wir betrachten KI-Forschung als eine empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Anstrengungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir zu jedem Zeitpunkt die wirkungsvollste Arbeit verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.
Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, ist die Lektüre unserer aktuellen Forschung. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, darunter: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.
KOMMEN SIE ZU UNS!
Anthropic ist eine Public Benefit Corporation mit Hauptsitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Aktienoptions-Matching, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum für die Zusammenarbeit mit Kollegen.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen