Software Engineer, ML Serving Platform

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду ML Serving Platform DoorDash, которая обслуживает десятки миллионов предсказаний в секунду. Задача — развивать self-serve инфраструктуру для вывода моделей в прод: маршрутизация запросов, онлайн-получение фичей, инференс на CPU и GPU.

Задачи

• Строить инструменты, API и workflow для самостоятельного деплоя, конфигурации, валидации и эксплуатации моделей внутренними командами
• Оценивать и интегрировать развивающиеся inference-фреймворки и open source модели в прод
• Улучшать системы маршрутизации запросов на предсказание, получения онлайн-фичей и исполнения моделей
• Развивать модульную disaggregated-архитектуру serving, чтобы компоненты масштабировались независимо
• Улучшать деплой и автоскейлинг в Kubernetes с эффективным использованием CPU и GPU
• Строить интеграции, валидацию и миграционный тулинг для ускорения адопции платформы
• Отвечать за производительность и надёжность в проде: бенчмарки, профилирование, метрики, трейсинг, on-call

Требования

• 2+ года опыта разработки и поддержки продовых сервисов или инфраструктуры
• Сильные основы computer science и владение backend или systems языком: Java, Kotlin, Go, C++ или Python
• Понимание распределённых систем: конкурентность, сети, таймауты, обработка отказов, компромиссы по производительности
• Умение самостоятельно превращать задачу в технический дизайн, протестированную реализацию и безопасный rollout
• Опыт отладки продовых систем и использования операционных данных для улучшения надёжности, производительности и стоимости
• Ориентация на пользователей платформы и эффективная работа с внутренними заказчиками
• Степень в Computer Science или смежной области либо эквивалентный практический опыт

Условия

• Базовая зарплата $130,600–$192,000 в год в зависимости от локации и квалификации
• Возможность получения equity-грантов
• Медицинская, стоматологическая и офтальмологическая страховка
• 401(k) с матчингом от работодателя
• 16 недель оплачиваемого отпуска по уходу за ребёнком
• Гибкий оплачиваемый отпуск и 80 часов оплачиваемого больничного в год
• 11 оплачиваемых праздников, страхование жизни и инвалидности, программа психологической поддержки

Навыки

• Java
• Kotlin
• Go
• C++
• Python
• Kubernetes
• GPU
• CPU
• ML inference
• distributed systems
• profiling
• tracing
• autoscaling