Estados Unidos
MANTECH
Anthropic
Ingeniero/a de Rendimiento, Sistemas de Inferencia
Estados Unidos
Seattle, Washington, Estados Unidos · San Francisco, California, Estados Unidos · New York, New York, Estados Unidos
PythonSQL
Traducción automática. Consulta el original.
Sobre Anthropic
La misión de Anthropic es crear sistemas de IA fiables, interpretables y dirigibles. Queremos que la IA sea segura y beneficiosa para nuestros usuarios y para la sociedad en su conjunto. Nuestro equipo es un grupo en rápido crecimiento de investigadores, ingenieros, expertos en políticas y líderes empresariales comprometidos que trabajan juntos para construir sistemas de IA beneficiosos.
Sobre el Puesto
La flota de inferencia de Anthropic da servicio a Claude a millones de usuarios a través de nuestros propios productos y las plataformas cloud más grandes del mundo. La pila tecnológica que hace esto posible es profunda y estrechamente acoplada: kernels de aceleración, servidores de modelos, enrutamiento distribuido, escalado automático, gestión de capacidad. Cada capa afecta a las demás, a menudo de maneras difíciles de ver de forma aislada.
El equipo de Dinámica de Sistemas de Inferencia es responsable de comprender todo el sistema y mantenerlo en un alto nivel de exigencia en cuatro dimensiones: rendimiento (throughput), latencia, fiabilidad y corrección. Medimos cómo rinde la flota frente a su frontera de rendimiento teórico, realizamos investigaciones inter-capa para explicar las brechas y nos encargamos de las comprobaciones de corrección que aseguran que las salidas de Claude sean correctas, no solo rápidas, en todas las plataformas de hardware y configuraciones de servicio. No somos los propietarios de los componentes individuales. Los instrumentamos y modelamos, encontramos las oportunidades de mayor apalancamiento entre ellos y colaboramos con los equipos propietarios para conseguir los resultados.
Trabajarás en las cuatro áreas. Una semana podrías estar rastreando una regresión de latencia de cola desde el tiempo de solicitud hasta el enrutamiento y la agrupación (batching) y hasta un overhead del kernel; la siguiente, podrías estar ajustando una evaluación de corrección para que detecte una regresión de salida introducida por un cambio de cuantificación. Buscamos ingenieros de rendimiento que traten la corrección como parte del rendimiento.
Responsabilidades Clave
- Realizar investigaciones de rendimiento inter-capa en rendimiento (throughput), latencia y fiabilidad, dimensionando la brecha entre el rendimiento real de la flota y los límites teóricos, identificando las causas raíz y cuantificando el valor de cerrarlas.
- Ser propietario y mejorar el pipeline de evaluación de corrección que valida la calidad de la salida del modelo en todas las plataformas de hardware, numéricas y configuraciones de servicio, y liderar la investigación cuando detecta una regresión.
- Construir la observabilidad, los dashboards y las herramientas de modelado que hacen que el rendimiento (throughput), la latencia, el coste, la fiabilidad, la corrección y sus interacciones sean legibles en toda la pila tecnológica.
- Colaborar con los equipos de kernels, servicio, enrutamiento, escalado automático y capacidad para priorizar y ejecutar las optimizaciones de mayor impacto que surjan de tu análisis.
- Clasificar rigurosamente una amplia gama de oportunidades por impacto y esfuerzo, y decir no a las que no cumplan los requisitos.
Requisitos Mínimos
- Experiencia práctica en ingeniería de rendimiento: profiling, análisis de techo de rendimiento (roofline analysis), optimización de latencia/rendimiento (throughput) e investigación de causas raíz en sistemas de producción complejos.
- Dominio de Python, con la capacidad de leer, instrumentar y contribuir a grandes bases de código de producción que no hayas escrito tú.
- Sólidas habilidades de análisis de datos (por ejemplo, SQL, pandas o similares) suficientes para convertir telemetría en bruto en hallazgos claros.
- Capacidad para comunicar resultados cuantitativos claramente por escrito para influir en las prioridades de equipos que no gestionas.
- Interés genuino en la corrección como disciplina de ingeniería: numéricos, diseño de evaluación, detección de regresiones.
Logística
- Educación mínima: Título de Grado o una combinación equivalente de educación, formación y/o experiencia.
- Campo de estudio requerido: Un campo relevante para el puesto demostrado a través de cursos, formación o experiencia profesional.
- Años mínimos de experiencia: Los años de experiencia requeridos se correlacionarán con los requisitos del nivel de puesto interno para la posición.
Requisitos Preferentes
- Experiencia con sistemas de ML, especialmente infraestructura de entrenamiento o inferencia o pilas de servicio de LLM en general. La experiencia directa en inferencia a gran escala es una gran ventaja.
- Familiaridad con conceptos de rendimiento de GPU/TPU/aceleradores (ancho de banda de memoria, overheads de kernel, cuantificación, comunicación colectiva). Razonar sobre estos temas es más importante que haber escrito kernels tú mismo.
- Experiencia en ingeniería de fiabilidad para servicios de alto rendimiento: escalado automático, balanceo de carga, enrutamiento de solicitudes, latencia de cola.
- Experiencia con pipelines de evaluación de modelos o detección de regresiones numéricas.
- Experiencia en la construcción de observabilidad o telemetría para sistemas distribuidos.
- Comodidad para influir y generar impacto a través de la evidencia en lugar de la propiedad directa.
Proyectos Representativos
- Rastrear una brecha de latencia de 350ms en una nueva plataforma de aceleración desde el tiempo de solicitud de extremo a extremo hasta un overhead de planificación del servidor, cuantificar el beneficio y conseguir la corrección directamente o con el equipo propietario.
- Rediseñar el umbral de evaluación de corrección: determinar qué señales detectan de forma fiable regresiones reales en la salida del modelo frente a ruido, y convertirlo en el criterio de lanzamiento de confianza en todos los backends de hardware.
- Construir un embudo de FLOPs que desglosa dónde va realmente el cómputo en toda la flota, exponiendo la brecha entre el rendimiento alcanzado y los límites teóricos de los kernels.
- Identificar la causa raíz de una divergencia numérica entre dos plataformas de hardware hasta un cambio específico de kernel, y definir el umbral de aceptación para el futuro.
- Modelar el impacto latencia-coste de cambiar los objetivos de tamaño de lote (batch-sizing) y utilización, y convertir el resultado en la señal que utiliza el escalador automático en producción.
Fecha límite para aplicar: Ninguna. Las solicitudes se revisarán de forma continua.
El rango de compensación anual para este puesto se indica a continuación.
Para los puestos de ventas, el rango proporcionado es el rango de "Objetivo en Nómina" (OTE) del puesto, lo que significa que el rango incluye tanto las comisiones de ventas/bonificaciones de ventas objetivo como el salario base anual para el puesto.
Salario Anual
$350,000—$850,000 USD
- Política híbrida basada en la ubicación: Actualmente, esperamos que todo el personal esté en una de nuestras oficinas al menos el 25% del tiempo. Sin embargo, algunos puestos pueden requerir más tiempo en nuestras oficinas.
- Patrocinio de visados: ¡Patrocinamos visados! Sin embargo, no podemos patrocinar visados para todos los puestos y todos los candidatos. Pero si te hacemos una oferta, haremos todo lo razonablemente posible para conseguirte un visado, y contamos con un abogado de inmigración para ayudar con esto.
Te animamos a que te postules incluso si no crees cumplir todos los requisitos. No todos los candidatos sólidos cumplirán todos los requisitos enumerados. Las investigaciones demuestran que las personas que se identifican como pertenecientes a grupos subrepresentados son más propensas a experimentar el síndrome del impostor y a dudar de la solidez de su candidatura, por lo que te instamos a que no te excluyas prematuramente y presentes una solicitud si te interesa este trabajo. Creemos que los sistemas de IA como los que estamos construyendo tienen enormes implicaciones sociales y éticas. Creemos que esto hace que la representación sea aún más importante, y nos esforzamos por incluir una variedad de perspectivas diversas en nuestro equipo.
Tu seguridad nos importa. Para protegerte de posibles estafas, recuerda que los reclutadores de Anthropic solo se ponen en contacto contigo desde direcciones de correo electrónico @anthropic.com. En algunos casos, podemos colaborar con agencias de contratación verificadas que se identificarán como que trabajan en nombre de Anthropic. Ten cuidado con los correos electrónicos de otros dominios. Los reclutadores legítimos de Anthropic nunca te pedirán dinero, tarifas o información bancaria antes de tu primer día. Si alguna vez tienes dudas sobre una comunicación, no hagas clic en ningún enlace; visita directamente anthropic.com/careers para ver las ofertas de empleo confirmadas.
¡Ven a trabajar con nosotros!
Anthropic es una corporación de beneficio público con sede en San Francisco. Ofrecemos compensación y beneficios competitivos, igualación opcional de donaciones de acciones, generosas vacaciones y permisos parentales, horarios de trabajo flexibles y un espacio de oficina agradable en el que colaborar con colegas. Orientación sobre el Uso de IA por parte de los Candidatos: Conoce nuestra política sobre el uso de IA en nuestro proceso de solicitud.
Cómo somos diferentes
Creemos que la investigación de IA de mayor impacto será ciencia a gran escala. En Anthropic trabajamos como un único equipo cohesionado en solo unos pocos esfuerzos de investigación a gran escala. Y valoramos el impacto —avanzar en nuestros objetivos a largo plazo de IA dirigible y confiable— en lugar de trabajar en rompecabezas más pequeños y específicos. Vemos la investigación de IA como una ciencia empírica, que tiene tanto en común con la física y la biología como con los esfuerzos tradicionales en informática. Somos un grupo extremadamente colaborativo y organizamos frecuentes discusiones de investigación para asegurar que estamos persiguiendo el trabajo de mayor impacto en cada momento. Como tal, valoramos enormemente las habilidades de comunicación.
La forma más fácil de entender nuestras direcciones de investigación es leer nuestra investigación reciente. Esta investigación continúa muchas de las direcciones en las que trabajó nuestro equipo antes de Anthropic, incluyendo: GPT-3, Interpretabilidad Basada en Circuitos, Neuronas Multimodales, Leyes de Escalado, IA y Cómputo, Problemas Concretos en Seguridad de IA, y Aprendizaje a partir de Preferencias Humanas.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil