Software Engineer, GPU Performance

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер по производительности GPU в команду HeyGen, работающую над AI-видео (Avatar IV, Photo Avatar, Video Translation). Задача — ускорять и удешевлять инференс моделей за счёт профилирования и оптимизации использования GPU.

Задачи

• Исследовать утилизацию GPU, исполнение ядер, пропускную способность памяти и обмен данными CPU–GPU с помощью NVIDIA Nsight Systems, Nsight Compute и PyTorch Profiler
• Находить узкие места в исполнении моделей, препроцессинге и инференс-сервинге и измерять эффект от каждой оптимизации
• Улучшать производительность за счёт батчинга, планирования, управления памятью и более полной загрузки GPU
• Разрабатывать или интегрировать высокопроизводительные GPU-ядра, когда существующие реализации ограничивают производительность
• Создавать бенчмарки и автоматические проверки, выявляющие регрессии производительности на типовых видеонагрузках
• Совместно с AI-исследователями и инфраструктурными инженерами доводить оптимизации до продакшена
• Измерять влияние изменений на latency, throughput, стоимость и качество результата

Требования

• Опыт оптимизации GPU-нагрузок в AI или высокопроизводительных вычислениях
• Уверенное владение Python и опыт работы с PyTorch или аналогичным ML-фреймворком
• Глубокий интерес к GPU-железу: пропускная способность памяти, поведение кэша, tensor cores, обмен данными между CPU и GPU
• Опыт использования инструментов профилирования для связывания поведения железа с узкими местами приложения и подтверждения улучшений
• Умение превращать эксперименты по производительности в надёжные продакшен-изменения и понятно объяснять компромиссы

Условия

• Конкурентная зарплата и соцпакет
• Динамичная и инклюзивная рабочая среда
• Возможности профессионального роста
• Культура сотрудничества, ценящая инновации и креативность
• Доступ к новейшим технологиям и инструментам

Навыки

• Python
• PyTorch
• CUDA
• Triton
• C++
• NVIDIA Nsight Systems
• NVIDIA Nsight Compute
• PyTorch Profiler
• GPU
• multi-GPU inference
• quantization
• model serving
• benchmarking