Applied AI Engineer, Agent Harness

Werden Sie Teil des Teams, das neu definiert, was ein zutiefst persönlicher und integrierter Assistent sein kann.

Als Teil der Siri-Organisation helfen Sie mit, einen der weltweit am weitesten verbreiteten KI-Assistenten zu gestalten. Er läuft auf unserer nächsten Generation von Apple Intelligence, mit Fähigkeiten wie dem Verständnis des persönlichen Kontexts und der Bildschirmerkennung, und er wurde von Grund auf mit Blick auf den Datenschutz entwickelt. Wir bauen das Harness, die Grundlage, die ein Modell in einen Assistenten verwandelt, der handeln kann. Dies ist eine Systemingenieurrolle für Menschen, die verstehen, wie große Sprachmodelle funktionieren.

Ein Modell kann nicht von selbst handeln. Das Harness steuert die Agentenschleife, übergibt Kontext und Werkzeuge an das Modell, führt die von ihm angeforderten Werkzeugaufrufe aus und streamt die Ergebnisse zuverlässig zurück. Es umfasst Modelle, die auf dem Gerät laufen, und größere Modelle in Private Cloud Compute. Es verarbeitet alles, von einzelnen Anfragen bis hin zu langen, mehrstufigen Aufgaben, die Apps umfassen, Unterbrechungen überstehen und sauber fortgesetzt werden können. Wir suchen einen erfahrenen Systemingenieur, der sich mit dem Verhalten von LLMs auskennt. Die Arbeit ist in Echtzeit und ressourcenbeschränkt: Antworten müssen schnell genug beginnen, damit ein Sprachassistent als augenblicklich empfunden wird, unter strengen Grenzen für Latenz, Speicher und Stromverbrauch auf allem von Mac und iPhone bis zur Apple Watch. Fehler haben selten eine einzige Ursache. In einer typischen Woche verfolgen Sie vielleicht, warum eine gestreamte Antwort ins Stocken gerät, sorgen dafür, dass Werkzeugaufrufe sauber abgebrochen werden, wenn der Benutzer unterbricht, oder spielen eine fehlgeschlagene Anfrage erneut ab, um festzustellen, ob das Modell, der Kontext oder die Laufzeit schuld war. Jede Änderung am Harness verändert das Verhalten des Modells, daher messen wir unsere Arbeit mit Evals, nicht nur mit Tests. Sie werden Teil des Teams, das die Kernlaufzeit besitzt, und arbeiten mit erfahrenen Ingenieuren und Forschern zusammen. Sie werden auch eng mit den Modellierungs-, Werkzeug- und Kontextteams sowie mit App- und Framework-Teams auf der ganzen Welt von Apple zusammenarbeiten. Sie werden Features vom Design bis zur Produktion begleiten und Ihre Verantwortung für das System im Laufe der Zeit erweitern. Sie werden täglich Agent-Harnesses verwenden, während Sie eines für einen Assistenten bauen, der von Hunderten von Millionen Menschen genutzt wird.