Software Development Manager, SageMaker Training

Möchten Sie die verteilten Systeme entwickeln, die es Kunden ermöglichen, Foundation Models in großem Maßstab anzupassen? Das SageMaker Training and Model Customization Team entwickelt die Dienste, mit denen Kunden Modelle für ihre eigenen Genauigkeits-, Zuverlässigkeits- und Kostenziele feinabstimmen und nachschulen. Wir stellen einen Software Development Manager ein, der das Team leitet, das für diese Funktionen zuständig ist.

Die Modell-Anpassung ist die sich am schnellsten entwickelnde Ebene des machine learning-Stacks. Das Post-Training hat sich von der überwachten Feinabstimmung zum Reinforcement Learning mit überprüfbaren Belohnungen entwickelt, und von Single-Turn-Aufgaben zum agentenbasierten Training, bei dem ein Modell durch Handeln in einer Umgebung über lange Trajektorien lernt. Jeder Wandel verändert die Form der Arbeitslast. Reinforcement Learning platziert eine Inferenz-Engine in der Trainingsschleife. Agentenbasiertes Training fügt Umgebungen und Tool-Aufrufe hinzu und verlagert den Engpass von einem Lauf zum nächsten. Ihr Team verwandelt jede neue Technik in eine Funktion, die Kunden nutzen können, ohne die Plattform jedes Mal neu aufbauen zu müssen, wenn sich die Forschung weiterentwickelt.

Unter den Techniken bleibt dies ein schwieriges Problem verteilter Systeme. Trainingsjobs laufen tagelang über große Beschleunigerflotten, und ein einzelner Knotenausfall kann den Job zum Stillstand bringen. Das Team arbeitet in PyTorch und über Frameworks wie Verl, FSDP, Megatron und vLLM hinweg und trägt nachgelagert zu den Open-Source-Projekten bei, von denen die Plattform abhängt.

Als Manager sind Sie für das Team und seine Charta verantwortlich. Sie stellen Ingenieure ein und entwickeln sie weiter, legen die technische Ausrichtung mit Ihren leitenden Ingenieuren und Produktmanagern fest und entscheiden, was das Team baut und was nicht. Sie verantworten die Roadmap und verteidigen deren Kompromisse gegenüber der Führungsebene. Sie sind für den Dienst in der Produktion verantwortlich, einschließlich der Bereitschaftsdienstbereitschaft, der Betriebsmetriken und der Anfragen, die mit der kritischen Pfadposition für Kunden-Trainings-Workloads einhergehen.

Ihr Morgen beginnt mit einer Design-Überprüfung. Das Team arbeitet daran, wie eine Inferenz-Engine und eine Trainings-Engine in derselben Schleife für Reinforcement Learning gehalten werden können, ohne Beschleuniger untätig zu lassen, und die Antwort wird die Zukunft der Plattform prägen. Sie tauchen tief in mögliche Szenarien ein, denn in diesem Maßstab stirbt ein Knoten routinemäßig und die Wiederherstellung muss normal und nicht außergewöhnlich sein.

Dann ein Charta-Anruf. Eine neue Post-Training-Technik ist drei Monate nach ihrer Veröffentlichung in der Forschungsliteratur und zwei Kunden fragen bereits danach. Mit Ihren leitenden Ingenieuren und dem Produktmanager entscheiden Sie, ob sie zu einer erstklassigen Funktion wird, zu einem Rezept auf Basis dessen, was Sie bereits haben, oder zu einem Nein. Diese Entscheidung liegt bei Ihnen, und die Branche wartet nicht darauf.

Sie verbringen eine Stunde in 1:1s, einschließlich eines Karrieregesprächs mit einem Ingenieur, der die Parallelisierungsarbeit übernehmen möchte. Nach dem Mittagessen nehmen Sie an einer Einstellungsbesprechung teil und treffen die Entscheidung. Später treffen Sie sich mit den angewandten Wissenschaftlern, um zu verstehen, was sie validiert haben, und Sie diskutieren über die Reihenfolge.

Sie schließen den Tag ab, indem Sie eine Seite für die Führungsebene schreiben: Was Sie in diesem Halbjahr nicht bauen werden und warum das der richtige Kompromiss ist.

Über das Team

Wir entwickeln die verwalteten Dienste, die Kunden zur Anpassung von Foundation Models verwenden. Ein Kunde bringt eine Aufgabe, einen Datensatz und eine Methode zur Bewertung einer guten Antwort mit. Unsere Dienste führen die Post-Training-Schleife in seinem Namen aus. Wir sind für diesen gesamten Weg verantwortlich, von der kundenorientierten API bis zur Trainingssitzungsinfrastruktur und der Beschleunigerflotte, auf der sie läuft.

Das macht dies zu einer grundlegenden Charta. Die Modell-Anpassung ist die Art und Weise, wie ein Kunde ein allgemeines Modell in ein eigenes verwandelt, und jede Anpassungserfahrung auf SageMaker basiert auf dem, was wir liefern. Wenn wir eine Technik hinzufügen, wird sie für jeden Kunden auf der Plattform verfügbar. Wenn wir die Trainingsschleife schneller machen, wird der Job jedes Kunden günstiger.

Amazon ist ein Arbeitgeber, der Chancengleichheit fördert und keine Diskriminierung aufgrund des Status als geschützter Veteran, einer Behinderung oder eines anderen gesetzlich geschützten Status vornimmt.

Bewerber aus Los Angeles County: Zu den Aufgaben dieser Position gehören: sichere und kooperative Arbeit mit anderen Mitarbeitern, Vorgesetzten und dem Personal; Einhaltung von Exzellenzstandards trotz stressiger Bedingungen; effektive und respektvolle Kommunikation mit Mitarbeitern, Vorgesetzten und dem Personal zur Gewährleistung eines außergewöhnlichen Kundenservice; und Einhaltung aller bundesstaatlichen, bundesstaatlichen und lokalen Gesetze sowie der Unternehmensrichtlinien. Vorstrafen können eine direkte, nachteilige und negative Auswirkung auf einige der wesentlichen Aufgaben dieser Position haben. Dazu gehören die oben genannten Aufgaben und Verantwortlichkeiten sowie die Fähigkeit, die Unternehmensrichtlinien einzuhalten, gesunden Menschenverstand anzuwenden, Stress effektiv zu bewältigen und sicher und respektvoll mit anderen zusammenzuarbeiten, Vertrauenswürdigkeit und Professionalität zu zeigen und den Geschäftsbetrieb sowie den Ruf des Unternehmens zu schützen. Gemäß der Los Angeles County Fair Chance Ordinance werden wir qualifizierte Bewerber mit Festnahme- und Verurteilungsaufzeichnungen berücksichtigen.

Unsere integrative Kultur befähigt Amazonians, die besten Ergebnisse für unsere Kunden zu erzielen. Wenn Sie eine Behinderung haben und eine Arbeitsplatzunterkunft oder -anpassung während des Bewerbungs- und Einstellungsprozesses benötigen, einschließlich Unterstützung für das Vorstellungs- oder Onboarding-Verfahren, besuchen Sie bitte amazon.jobs/content/en/how-we-hire/accommodations für weitere Informationen. Wenn das Land/die Region, in dem Sie sich bewerben, nicht aufgeführt ist, wenden Sie sich bitte an Ihren Recruiting Partner.

USA, CA, Santa Clara - 212,700.00 - 287,700.00 USD jährlich

Die Gehaltsspanne für diese Position ist unten aufgeführt. Ihr Amazon-Paket beinhaltet Anmeldezahlungen und Restricted Stock Units (RSUs). Die endgültige Vergütung wird auf der Grundlage von Faktoren wie Erfahrung, Qualifikationen und Standort festgelegt. Amazon bietet außerdem umfassende Leistungen, einschließlich Krankenversicherung (medizinisch, zahnärztlich, Sehkraft, verschreibungspflichtig, grundlegende Lebens- und AD&D-Versicherung und Option auf zusätzliche Lebensversicherungen, EAP, psychische Gesundheitsunterstützung, medizinische Beratungsleitung, flexible Ausgabenkonten, Erstattung von Adoptions- und Leihmutterschaftskosten), 401(k) Matching, bezahlte Freizeit und Elternurlaub. Erfahren Sie mehr über unsere Leistungen unter amazon.jobs/en/benefits.