Senior Software Engineer, AI Frameworks

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Senior-инженер в NVIDIA для интеграции проекта Grove с ведущими open-source AI-фреймворками (Dynamo, llm-d, Ray, PyTorch). Задача — создавать production-решения, адаптеры и тулинг для масштабируемого обучения и инференса.

Задачи

• Проектировать и реализовывать end-to-end интеграции Grove с open-source AI-фреймворками (Dynamo, llm-d, Ray, PyTorch и др.)
• Разрабатывать и поддерживать адаптеры, плагины, операторы и runtime-компоненты для работы Grove в training и inference стеках
• Совместно с владельцами фреймворков вносить изменения в upstream, патчи и обеспечивать долгосрочную поддерживаемость интеграций
• Создавать reference-воркфлоу, примеры приложений и гайды по лучшим практикам для ускорения адопции
• Оптимизировать производительность, масштабируемость и надёжность распределённого обучения/инференса, включая multi-node и multi-GPU окружения
• Улучшать observability и операционную готовность (метрики, логирование, трейсинг, инструменты отладки) для Kubernetes-развёртываний
• Участвовать в технических ревью дизайна, определять API/контракты и обеспечивать совместимость версий фреймворков и зависимостей
• Диагностировать сложные проблемы на уровне контейнеров, сети, планирования, CUDA/GPU и runtime фреймворков

Требования

• Степень BS/MS/PhD в Computer Science, Electrical Engineering или смежной области (или эквивалентный опыт)
• 5+ лет профильного опыта
• Практический опыт интеграции хотя бы с одним крупным AI-фреймворком/runtime (PyTorch, Ray, Triton Inference Server, распределённые runtime, model serving стеки)
• Понимание AI-нагрузок: основы разработки моделей, различия training и inference, вопросы производительности (throughput/latency, батчинг, память)
• Опыт с концепциями распределённых систем (RPC, планирование, отказоустойчивость, управление ресурсами)
• Практический опыт с Kubernetes: деплой и эксплуатация сервисов/джобов, Helm/Kustomize, отладка кластеров
• Знакомство с контейнерами и cloud-native инструментами (Docker, container registries, CI/CD)
• Сильный опыт разработки на Go, C++ и/или Python с подтверждённым треком поставки надёжных систем
• Сильные коммуникативные навыки и умение работать с командами и open-source сообществами

Условия

• Базовая зарплата 152 000–241 500 USD для Level 3 и 184 000–287 500 USD для Level 4
• Право на equity и льготы (benefits)
• Инклюзивная среда и равные возможности трудоустройства

Навыки

• Go
• C++
• Python
• PyTorch
• Ray
• Triton Inference Server
• Dynamo
• llm-d
• Kubernetes
• Helm
• Kustomize
• Docker
• CI/CD
• CUDA
• GPU
• Nsight