Skyline Scientific Inc
Together AI
Platform Engineer, Model Shaping
ÜBER DIE ROLLE
Das Model Shaping Team bei Together AI arbeitet an Produkten und Forschung zur Anpassung von offenen Basismodellen für nachgelagerte Anwendungen. Wir entwickeln Dienste, die es machine learning-Entwicklern ermöglichen, die besten Modelle für ihre Aufgaben auszuwählen und diese Modelle mithilfe domänenspezifischer Daten weiter zu verbessern. Darüber hinaus entwickeln wir neue Methoden für effizienteres Modelltraining und -evaluierung, inspiriert von einem breiten Spektrum an Ideen aus machine learning, natürlicher Sprachverarbeitung und ML-Systemen.
Als Platform Engineer im Model Shaping arbeiten Sie an der Schnittstelle von backend-Engineering und Infrastruktur und bauen die grundlegenden Schichten der Plattform von Together für die Modellanpassung und -evaluierung. Sie entwerfen, entwickeln und betreiben sowohl die backend-Dienste als auch die zugrunde liegenden Systeme, die es uns ermöglichen, Produktions-Workflows, die von unseren Benutzern gestartet werden, sowie interne Forschungsversuche nachhaltig und zuverlässig zu skalieren.
Sie arbeiten in einem funktionsübergreifenden Umfeld und arbeiten mit anderen Ingenieuren und Forschern im Team zusammen, um die Infrastruktur basierend auf den Bedürfnissen der Projekte, an denen sie arbeiten, zu verbessern. Sie werden auch mit anderen Engineering-Teams bei Together (wie Commerce, Data Engineering und Cloud Infrastructure) interagieren, um die vom Model Shaping entwickelten Dienste in die von diesen Teams entwickelten Systeme zu integrieren.
VERANTWORTLICHKEITEN
- Entwerfen und Erstellen der Systeme und Infrastruktur von Together für die Modellanpassung, einschließlich benutzerorientierter Funktionen und interner Verbesserungen
- Beitrag zur Verbesserung der Zuverlässigkeit der Plattform, Teilnahme an einer Bereitschaftsrotation und Verbesserung von Prozessen für die Reaktion auf Vorfälle
- Erstellen und Verbessern interner Tools für Bereitstellung, kontinuierliche Integration und Beobachtbarkeit
- Aufbau einer Job-Orchestrierungsplattform, die mehrere Rechenzentren umfasst und eine stark heterogene Hardwarelandschaft unterstützt
- Partnerschaft mit Teams, die interne Dienste entwickeln, Mitgestaltung dieser Dienste und deren Integration in die bei Together entwickelten Systeme
ANFORDERUNGEN
- 3+ Jahre Erfahrung in der Erstellung von Infrastruktur oder backend-Komponenten von Produktionsdiensten
- Umfangreiche Erfahrung im Design, Betrieb und der Fehlerbehebung von Produktions-Linux-Umgebungen und Kubernetes-basierten Plattformen
- Starker Software-Engineering-Hintergrund in Python oder Go
- Erfahrung mit Infrastruktur-Automatisierungstools (Terraform, Ansible), Monitoring/Observability-Stacks (Prometheus, Grafana) und CI/CD-Pipelines (GitHub Actions, ArgoCD)
- Erfahrung in der Administration von Cloud-Umgebungen (z. B. AWS/GCP/Azure), vorzugsweise mit einer hybriden Bare-Metal/Cloud-Umgebung
- Starke Kommunikationsfähigkeiten, Bereitschaft zur Dokumentation von Systemen und Prozessen und zur Zusammenarbeit mit Kollegen mit unterschiedlicher technischer Expertise
- Komfort bei der Arbeit über den gesamten Stack hinweg, von Cluster-Operationen und Infrastrukturautomatisierung bis hin zur backend-Dienstentwicklung
ERFAHRUNG IN EINEM DER FOLGENDEN BEREICHE WIRD SIE AUSZEICHNEN
- Entwicklung von groß angelegten Produktionssystemen mit hohen Zuverlässigkeitsanforderungen
- Pipeline-Orchestrierungs-Frameworks (z. B. Kubeflow, Argo Workflows, Flyte)
- Verwaltung von GPU-Workloads auf HPC-Clustern, idealerweise mit praktischer Erfahrung im Betrieb des NVIDIA-Netzwerkstacks (z. B. NCCL, Mellanox-Firmware, GPUDirect RDMA)
- Bereitstellung von Diensten für KI-Training oder -Inferenz
- Netzwerk-Grundlagen, einschließlich TCP/IP, DNS, Routing, Load Balancing, TLS und Netzwerk-Debugging-Tools
- Pflege oder Beitrag zu Open-Source-Projekten
ÜBER TOGETHER AI
Together AI, die AI Native Cloud, ist speziell für KI-Ingenieure konzipiert. KI-Anwendungsentwickler erhalten hochleistungsfähige Inferenz, die zuverlässig skaliert, Fine-Tuning und Reinforcement Learning zur Erstellung von Spitzenmodellen und Pre-Training in massivem Maßstab für vollständig kundenspezifische Intelligenz, alles rund um einen Marktplatz führender offener Modelle, die Teams ausführen, anpassen und besitzen können.
Vertraut von Cursor, Decagon, ElevenLabs, Salesforce und Zoom, bedient Together über 400 Billionen Tokens pro Monat.
VERGÜTUNG
Wir bieten wettbewerbsfähige Vergütung, Startup-Aktienoptionen, Krankenversicherung und andere Leistungen sowie Flexibilität in Bezug auf Remote-Arbeit.
Die US-Basisgehaltsspanne für diese Vollzeitstelle beträgt $200,000 - $290,000.
Unsere Gehaltsspannen werden durch Standort, Stufe und Rolle bestimmt. Die individuelle Vergütung wird durch Erfahrung, Fähigkeiten und fachspezifisches Wissen bestimmt.
CHANCENGLEICHHEIT
Together AI ist ein Arbeitgeber, der Chancengleichheit fördert und stolz darauf ist, allen Personen unabhängig von Rasse, Hautfarbe, Herkunft, Religion, Geschlecht, nationaler Herkunft, sexueller Orientierung, Alter, Staatsbürgerschaft, Familienstand, Behinderung, Geschlechtsidentität, Veteranenstatus und mehr gleiche Beschäftigungsmöglichkeiten zu bieten.
Bitte beachten Sie unsere Datenschutzrichtlinie unter together.ai/privacy
