Idaho Health Insurance Exchange
Bjak
Backend Engineer, KI (Agentensysteme)
Über ActAI
Es gibt heute über 5 Milliarden Nutzer, die grundlegende Anwendungen wie E-Mail, Notizen, Aufgaben und Kalender verwenden, und diese sind nicht KI-nativ. Unsere Mission ist es, proaktive Anwendungen für jeden Menschen weltweit zu entwickeln, der nicht an komplexe Eingabeaufforderungen gewöhnt ist. Wir haben uns zum Ziel gesetzt, Intelligenz in Konversationen, Besorgungen, Organisation und Arbeitsabläufe zu bringen, und zwar mit minimalen bis gar keinen Eingabeaufforderungen.
Unser Produkt konzentriert sich auf die Erzielung hoher Zuverlässigkeit für langlaufende Arbeitsabläufe, persistenten Kontext und die Erledigung realer Aufgaben. Wir glauben, dass Produkte Halluzinationen stark reduzieren werden.
Unser Ziel ist es, das Leben jedes Einzelnen zu organisieren, damit wir alle Zeit für wertvolle und bedeutungsvolle Dinge haben.
Rolle
Als Backend Engineer, KI sind Sie für die Inferenz- und Orchestrierungsschicht verantwortlich, die jede KI-Interaktion im Produkt steuert. Ihre Arbeit befindet sich zwischen Modellen und Benutzern, wo Latenz, Korrektheit, Zuverlässigkeit und Kosten die Benutzererfahrung in der realen Welt direkt beeinflussen.
Wie wir arbeiten
Die besten Produkte der Welt wurden von kleinen, erstklassigen Teams entwickelt. Wir sind ein Team mit hoher Talentdichte und Hands-on-Mentalität. Wir treffen Entscheidungen kollektiv, bewegen uns schnell und finden eine Balance zwischen der Lieferung hochwertiger Arbeit und dem Lernen. Der Beitritt zu unserem Team erfordert die Fähigkeit, Struktur zu schaffen, Urteilsvermögen auszuüben und unabhängig zu handeln. Unser Ziel ist es, unseren Nutzern ein wirklich magisches Produkt in die Hände zu geben.
Fokus
Sie werden Produktionssysteme erstellen und betreiben, die Modellfähigkeiten in schnelle, stabile, beobachtbare APIs umwandeln, die auf mobilen und Desktop-Clients verwendet werden.
- Erstellen und betreiben von Backend-Systemen, die KI-gestützte Funktionen in der Produktion bereitstellen.
- Entwerfen von Inferenz-Pipelines, Orchestrierungsschichten und Servicegrenzen um Modelle herum.
- Verantwortung für Produktionsbelange: Überwachung, Protokollierung, Alarmierung und Reaktion auf Vorfälle.
- Optimieren von Latenz und Durchsatz über Inferenz, Caching, Batching und Streaming hinweg.
Ideale Erfahrungen
- Starke Backend-Engineering-Grundlagen in Produktionsumgebungen.
- Erfahrung im Betrieb von Diensten mit hohem Durchsatz und geringer Latenz.
- Vertrautheit mit KI-Inferenzmustern (LLMs, Embeddings, Multimodal).
- Komfort beim Debuggen verteilter Systeme unter Last.
- Neigung zum Ausliefern und Lernen aus dem Produktionsverhalten.
Technologie-Stack
- Python
- NodeJs
- Pytorch
- OpenAI / Anthropic / Open-Source LLMs
- SQL & noSQL
- Kubernetes
- Docker
Ergebnisse
- Backend-Systeme laufen zuverlässig im großen Maßstab und verarbeiten produktionsseitigen KI-Verkehr mit geringer Latenz und hohem Durchsatz.
- APIs sind stabil, klar und unterstützen die nahtlose Integration mit Frontend- und ML-Systemen.
- Produktionsvorfälle werden schnell erkannt, diagnostiziert und behoben, wodurch die Auswirkungen auf die Benutzer minimiert werden.
- Iterative Verbesserungen, die auf realer Nutzung basieren, erhöhen kontinuierlich die Systemleistung und Zuverlässigkeit.
Interviewprozess
Wenn eine Passung besteht, werden wir uns melden, um 3, aber nicht mehr als 4 Interviews zu planen.
Bewerbungen werden von unseren technischen Teammitgliedern bewertet. Interviews werden per Videoschalte und/oder vor Ort geführt.
Wir legen Wert auf Transparenz und Effizienz, daher erwarten Sie eine schnelle Entscheidung. Wenn Sie die außergewöhnlichen Fähigkeiten und die Denkweise, nach denen wir suchen, unter Beweis gestellt haben, werden wir Ihnen ein Angebot zur Zusammenarbeit unterbreiten. Dies ist nicht nur ein Jobangebot; es ist eine Einladung, Teil eines Teams zu sein, das KI für Milliarden von Menschen weltweit nutzbar macht.
