Zum Inhalt springen

You.com

Senior Backend Engineer, Inference Platform

PythonKubernetes
Automatische Übersetzung. Prüfe das Original.

Über uns

Bei You.com bauen wir die KI-Suchinfrastruktur auf, die moderne KI-Systeme antreibt. Unser Ziel ist es, die vertrauenswürdige Wissensschicht zu schaffen, auf die sich Agenten, Anwendungen und Unternehmen verlassen, um Echtzeitinformationen abzurufen, die genau und belegt sind.

Unsere Plattform kombiniert proprietäre vertikale Indizes mit LLM-optimierten Abrufsystemen, um KI-Agenten, Anwendungen und Unternehmens-Workflows zu betreiben. Wir lösen komplexe Probleme in den Bereichen Suche, große Sprachmodelle und groß angelegte Infrastruktur, um KI-Systeme zuverlässiger, transparenter und nützlicher zu machen.

Unser Team besteht aus Ingenieuren, Forschern, Produktentwicklern und Betreibern, denen es wichtig ist, sinnvolle Probleme zu lösen und reale Auswirkungen zu erzielen. Egal, ob Sie die Kerninfrastruktur verbessern, Produkterlebnisse gestalten oder neue KI-Funktionen auf den Markt bringen, Ihre Arbeit wird dazu beitragen, wie moderne KI Wissen findet und nutzt.

Über die Rolle

Jeder Modellaufruf von unseren Produkten und Kunden durchläuft eine Schicht: unser Inference Gateway. Es ermöglicht Benutzern die Auswahl eines Modells und wir leiten den Aufruf intelligent weiter, um Kosten, Latenz und hohe Verfügbarkeit zu optimieren. Wir bauen jetzt die Steuerungsebene darüber, um den Zugriff, die Leistung und die Kosten zu verwalten und zu steuern.

Sie werden dieses Gateway besitzen und skalieren. Die Arbeit liegt zwischen Model Serving und Produkt: Routing und Fallback über gehostete Anbieter und unsere eigenen Modelle, Cache-bewusste Routing-Entscheidungen, Messung, die für die Abrechnung ausreicht, und Durchsetzung auf dem Anfragepfad innerhalb eines Budgets von wenigen Millisekunden.

Dies ist eine Remote-Position, offen für Kandidaten überall in den Vereinigten Staaten. Wir bevorzugen Kandidaten in der San Francisco Bay Area oder New York, wo wir Büros haben, aber wir freuen uns, starke Remote-Kandidaten anderswo in den USA zu berücksichtigen.

Aufgaben

  1. Verantwortung für das Inference Gateway, durch das jeder Modellaufruf geleitet wird, einschließlich Anbieter- und Modelauswahl, Fallback und Limits
  1. Aufbau einer Intelligenzschicht zur autonomen Auswahl des richtigen Modells für die richtige Wendung in der Aufgabe
  1. Treffen von Routing-Entscheidungen, die das Verhalten des Prefix-Caches, Batching und die Zeit bis zum ersten Token berücksichtigen, nicht nur Preis und Verfügbarkeit
  1. Aufbau von Kostenattribution und Messung über Anbieter hinweg, einschließlich der Verrechnung von Cache-Tokens, die für die Abrechnung und Durchsetzung ausreichend genau sind
  1. Aufbau einer Durchsetzung auf dem Anfragepfad, die sich anmutig verschlechtert und niemals den Inference-Aufruf eines Kunden zum Absturz bringt
  1. Auslieferung von Änderungen zur Inference-Zeit zuerst im Shadow-Modus, mit den Messungen, um zu beweisen, dass sie funktionieren

Qualifikationen

  1. Praktische Produktionserfahrung mit Model Serving auf Stacks wie vLLM, SGLang (oder ähnlichen Plattformen) mit einem funktionierenden Verständnis von Continuous Batching, KV- und Prefix-Caching sowie dem Kompromiss zwischen Zeit bis zum ersten Token und Durchsatz
  1. Sie haben einen Serving-Stack unter Live-Traffic-Bedingungen optimiert und wissen, was p99 in der Praxis bewirkt, nicht nur in der Theorie
  1. Beherrschung von Anbieter-APIs: Tokenisierung, Prompt-Caching-Semantik und die Unterschiede in der Berichterstattung und Preisgestaltung von Nutzung und Cache-Tokens
  1. Erfahrung im Aufbau oder Betrieb eines Proxys, Gateways oder einer Datenebene auf dem kritischen Pfad des Produktionsverkehrs mit fundierten Instinkten für "failing open"
  1. Komfort mit Streaming-Antworten und den Teilen, die umständlich werden: partieller Zustand, Fehler mitten im Stream und Arbeiten, die erst nach Schluss des Streams erfolgen können
  1. Ein starker backend-Generalist (Python, Kubernetes). Wir erwarten, dass Sie sich alles aneignen, was Sie noch nicht berührt haben
  1. Wir gewichten Trajektorie und jüngstes Wachstum stärker als die Berufsjahre

Bevorzugte Aufgaben

  1. Erfahrung bei einem Inference-Anbieter oder einer GPU-Cloud oder Beiträge zu einem Open-Source-Serving-Stack
  1. Fine-Tuning und Evaluierung von Modellen in der Produktion
  1. Nutzungs-Metering, Abrechnung oder Kostenoptimierung im großen Maßstab

Unsere Gehaltsbänder sind auf der Grundlage einer Kombination aus geografischen Tierchen und internen Leveln strukturiert. Die Vergütung wird durch mehrere Faktoren bestimmt, die während des Interviewprozesses bewertet werden, wobei das endgültige Angebot diese Überlegungen widerspiegelt.

Gehaltsband $200,000—$250,000 USD

*Leistungsberechtigung variiert je nach Beschäftigungsart und Dauer.

You.com nimmt am E-Verify-Programm teil. Wir werden der Social Security Administration (SSA) und, falls erforderlich, dem Department of Homeland Security (DHS) Informationen aus dem Formular I-9 jedes neuen Mitarbeiters zur Bestätigung der Arbeitserlaubnis übermitteln. (Englisch/Spanisch: E-Verify Teilnahme [drive.google.com/file/d/1u7vRUMjyxbI3xX7LkBiHgvzB8qUr8hfT/view?usp=drive_link]/Recht auf Arbeit drive.google.com/file/d/19uh4fecwISKmXyK3oh2SR958R70O3CVa/view?usp=drive_link) Wir sind außerdem ein inklusiver, gerechter und zugänglicher Arbeitsplatz. Bitte teilen Sie uns mit, wenn Sie eine Unterkunft für einen Teil des Einstellungs- und Einstellungsprozesses benötigen.

--------------------------------------------------------------------------------

ACHTUNG BETRÜGERISCHE STELLENANGEBOTE

You.com wird Sie nur über offizielle @You.com ramp.com/ E-Mail-Adressen kontaktieren und wird niemals eine Zahlung oder sensible persönliche Informationen während des Einstellungsprozesses verlangen.

--------------------------------------------------------------------------------

VERWENDUNG VON KI-TOOLS WÄHREND UNSERES EINSTELLUNGSPROZESSES

Bei You.com denken wir sorgfältig darüber nach, wie wir KI in unserem Geschäft einsetzen – einschließlich unseres Einstellungsprozesses.

Während bestimmter Phasen des Interviewprozesses können wir KI-gestützte Tools für administrative Aufgaben wie Terminplanung, Notizen, Transkription oder Zusammenfassung von Interviewgesprächen verwenden. Diese Tools sollen unsere Interviewer durch Verbesserung der Genauigkeit und Effizienz unterstützen – sie treffen keine Einstellungsentscheidungen und ersetzen nicht das menschliche Urteilsvermögen.

Alle Personalentscheidungen werden von unserem Recruiting-Team und den Hiring Managern auf der Grundlage einer ganzheitlichen Überprüfung jedes Kandidaten und der geltenden Bewertungskriterien getroffen.

Wenn KI-gestützte Notizen oder Transkriptionen während Ihres Interviews verwendet werden, werden wir Sie im Voraus benachrichtigen. Wenn Sie es vorziehen, nicht an einem Interview teilzunehmen, das diese Tools verwendet, können Sie sich abmelden, indem Sie Ihren Recruiter vor Ihrem gesprochenen Interview informieren. Wir werden mit Ihnen zusammenarbeiten, um eine alternative Interviewerfahrung zu ermöglichen, wo dies zumutbar ist.

Die während des Einstellungsprozesses gesammelten Informationen werden gemäß unserer Datenschutzrichtlinie you.com/privacy und dem geltenden Recht behandelt. Indem Sie mit dem Bewerbungsprozess fortfahren, bestätigen Sie, dass Sie diese Mitteilung gelesen haben. Wenn KI-gestützte Tools während Ihres Interviews verwendet werden und Sie sich nach Erhalt der Benachrichtigung nicht abgemeldet haben, stimmen Sie deren Verwendung wie oben beschrieben zu, wo dies nach geltendem Recht zulässig ist.

UNTERNEHMENSLEISTUNGEN

  • Hubs in San Francisco und New York City mit regelmäßigen persönlichen Treffen und Co-Working-Sessions
  • Flexibler PTO mit US-Feiertagen und einer Betriebsschließung am Jahresende im Dezember zum Ausruhen und Aufladen*
  • Ein wettbewerbsfähiger Krankenversicherungsplan deckt 100% des Versicherungsnehmers und 75% für Angehörige ab*
  • Function Health Mitgliedschaft
  • 12 Wochen bezahlter Elternurlaub in den USA*
  • 401k Programm, 3% Match – sofort unverfallbar!*
  • $500 Homeoffice-Stipendium, das bis zu einem Jahr nach Ihrem Startdatum genutzt werden kann*
  • $600 Technologie-Stipendium zur Unterstützung eines Teils der Mobilfunk- und Internetkosten unseres hybriden/Remote-Teams*
  • $1,200 pro Jahr Gesundheits- & Wellness-Zuschuss zur Unterstützung Ihrer persönlichen Ziele*
  • Die Chance, mit einem Team an der Spitze der KI-Forschung zusammenzuarbeiten

Mehr Möglichkeiten mit einem Profil

Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.

Profil erstellen

Das NortJobs-Team betreibt Vagas Dev kostenlos.

Dein nächster Jobwartet vielleicht bei NortJobs.

Vagas Dev

Stellen für Entwickler und Programmierer. Brasilien steht an erster Stelle. Deine nächste Chance.

NortJobs · ProjektfördererInstagramLinkedInTwitter
RechtlichesÜber das ProjektDatenschutzVagas Dev © 2026