Startekk Inc
Apple
Director, Evaluación y Garantía de Calidad, Proyectos Especiales de Servicios
Sobre la oportunidad
Buscamos un Director para construir y liderar la función de evaluación y garantía de calidad para una de nuestras iniciativas de ingeniería multianual más ambiciosas. Este es un puesto verdaderamente de 0 a 1, la primera contratación clave: no hay equipo, herramientas ni procesos existentes que heredar. Definirás cómo medimos la calidad en un producto completo de principio a fin, construirás la infraestructura de automatización y evaluación para hacerlo a escala (o tomarás prestada la infraestructura de otros equipos) y construirás y liderarás la organización que la ejecuta.
DESCRIPCIÓN
Serás responsable de la evaluación y la garantía de calidad en todas las capas del producto: desde si el sistema se activa correctamente para el conjunto adecuado de solicitudes de usuario, pasando por si muestra y clasifica los resultados correctos, hasta si las transacciones subyacentes se ejecutan correctamente, incluidas las integraciones con APIs de socios externos y sistemas financieros. La calidad aquí no es un único conjunto de pruebas: abarca la comprensión conversacional, la relevancia y la clasificación, y la corrección de los ingresos, todo ello frente a un conjunto de datos del mundo real grande y en constante evolución. Crearás y dirigirás la estrategia e implementación de evaluación y calidad para el producto. Esto utilizará ampliamente sistemas de calificación automatizados y programas de evaluación humana cuando sea apropiado. Tomarás las decisiones sobre dónde invertir en cada uno. Definirás qué significan "correcto" y "bueno" para este producto, integrarás esa definición en canalizaciones de evaluación continuas y siempre activas con puertas de calidad claras de aprobado/fallido vinculadas a las versiones, y construirás el equipo, las herramientas y el ritmo operativo para detectar problemas antes de que lleguen a los usuarios. Como primera contratación en este ámbito, operarás con una gran libertad y ambigüedad: estableciendo la estrategia, el proceso y la dirección técnica con un andamiaje mínimo existente, al tiempo que construyes y escalas una organización. Te asociarás estrechamente con el liderazgo de ingeniería, ML aplicado y gestión de programas, incluidos los altos ejecutivos, y serás una voz clave para definir qué significa "hecho" y "listo para enviar" para un producto que aún se está formando, así como para iterar en los puntos de decisión en producción después de que el producto se envíe.
CALIFICACIONES MÍNIMAS
- 12+ años de experiencia en ciencia de datos, evaluación de machine learning, garantía de calidad o roles de ingeniería de pruebas en un entorno de producto técnico, incluida la experiencia en la construcción y liderazgo de organizaciones de QA o evaluación multinivel a través de gerentes.
- Experiencia demostrada en la construcción de una función de evaluación o QA desde cero: definición de métricas, procesos, herramientas y estructura organizativa donde no existían previamente.
- Amplia experiencia en la utilización de autocalificadores y rúbricas basados en LLM, incluido el diseño de rúbricas, el desarrollo de conjuntos de evaluación, la validación, la calibración y la alineación humano-modelo, y su uso para impulsar de forma proactiva mejoras del producto y del modelo.
- Profunda experiencia en metodología tradicional de evaluación humana, registro y pruebas A/B para productos de consumo a escala.
- Experiencia en la evaluación de IA conversacional, sistemas de recomendación, clasificación o búsqueda, y, idealmente, sistemas agentes o de uso de herramientas que toman acciones en el mundo real, no solo generan respuestas.
- Grado en Ciencias de la Computación, Ingeniería o un campo técnico relacionado, o experiencia equivalente.
- Experiencia con garantía de calidad para integraciones de API de terceros.
- Experiencia con infraestructura de registro e instrumentación para la medición de la calidad de productos de IA.
- Habilidades excepcionales de comunicación escrita y verbal, con un historial de presentación clara del estado de la calidad, el riesgo y las compensaciones a la alta dirección ejecutiva, y de influencia en sus decisiones.
CALIFICACIONES PREFERIDAS
- 15+ años de experiencia en ciencia de datos, evaluación de machine learning, garantía de calidad o roles de ingeniería de pruebas en un entorno de producto técnico, incluida la experiencia en la construcción y liderazgo de organizaciones de QA o evaluación multinivel a través de gerentes.
