NVIDIA
Senior Production Engineer - DGX Cloud
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Senior Production Engineer в команду DGX Cloud: разработка и эксплуатация production-сервисов, автоматизации и инфраструктуры для AI-инференса и агентных нагрузок на базе Kubernetes в облаках и on-prem.
Задачи
- Разрабатывать и эксплуатировать production-софт, автоматизацию и инструменты для control plane сервисов, деплоя моделей и инференс-нагрузок в DGX Cloud
- Повышать надёжность инференс-платформ и сервисов (NVIDIA Cloud Functions, эндпоинты на SGLang и vLLM, сервисы на NVIDIA Dynamo) через health-валидацию, безопасные роллауты, observability и восстановление
- Улучшать доступность эндпоинтов, маршрутизацию инференса, управление ёмкостью и здоровьем сервисов
- Использовать infrastructure as code и GitOps для деплоя, конфигурации, валидации, апгрейда и восстановления сервисов
- Строить процессы включения сервисов, релизов моделей, передачи, деприкейта и операционной поддержки; заменять ручную работу автоматизацией
- Определять и инструментировать SLI/SLO для инференса и control plane, использовать error budgets для улучшения надёжности
- Участвовать в on-call и инцидент-менеджменте, устранять сбои в маршрутизации, рантаймах моделей, софте и инфраструктуре
- Взаимодействовать с командами моделей, платформы, storage, networking, security и GPU-инфраструктуры
Требования
- 8+ лет опыта разработки или эксплуатации production-сервисов и крупномасштабных распределённых систем, включая автоматизацию
- Сильные навыки программирования на Python, Go или аналогичном языке, опыт разработки инструментов для production-операций
- Опыт с infrastructure as code, configuration management или GitOps, построение автоматизации повторяемых деплоев
- Сильные знания Linux, Kubernetes, контейнеров, облачной инфраструктуры, распределённых систем и сетей; умение диагностировать сбои в production
- Понимание принципов SRE: SLI, SLO, error budgets, инцидент-респонс, снижение операционного toil
- Опыт инструментирования сервисов и работы с метриками, логами и трейсами
- Чёткая техническая коммуникация и умение работать между командами
- BS/MS по Computer Science или эквивалентный опыт
Условия
- Базовая зарплата 184 000–287 500 USD для Level 4 и 224 000–356 500 USD для Level 5
- Право на equity и бенефиты
- Приём заявок минимум до 6 октября 2026
Навыки
- Python
- Go
- Linux
- Kubernetes
- containers
- AWS
- Azure
- Google Cloud
- GitOps
- infrastructure as code
- Terraform
- Argo CD
- CI/CD
- SGLang
- vLLM
- PyTorch
- TensorRT-LLM
- NVIDIA Dynamo
- CUDA
- NCCL
- observability
- SLI
- SLO