Software Engineer III, AI/ML, TPU Efficiency, YouTube

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду YouTube, отвечающую за оптимизацию моделей рекомендательной системы. Работа над эффективностью ML-моделей и TPU: квантизация, дистилляция знаний, co-design моделей и компилятора.

Задачи

• Анализировать ML-нагрузки, выявлять узкие места по вычислениям и пропускной способности памяти, оптимизировать загрузку ускорителей
• Исследовать, внедрять и выводить в продакшн алгоритмические методы эффективности: низкоточную квантизацию, дистилляцию знаний, разделение параметров, оптимизации attention
• Оптимизировать вспомогательные serving- и распределённые data-пайплайны: ингестию данных, трансформацию признаков, поиск эмбеддингов, кэширование в памяти
• Совместно с разработчиками моделей и исследователями проектировать hardware-friendly архитектуры моделей и внедрять универсальные библиотеки эффективности

Требования

• Bachelor's degree или эквивалентный практический опыт
• 2 года опыта с ML-инфраструктурой (деплой моделей, оценка моделей, обработка данных, отладка)
• 2 года опыта с архитектурами ускорителей (TPU/GPU)
• 2 года опыта программирования на C++ и Python
• Опыт с ML-фреймворками TensorFlow, JAX, PyTorch или ML-компиляторами (XLA)
• Опыт оптимизации ML-моделей

Условия

• Зарплата $147000 - $210000 (USD) + 15% bonus target + equity + benefits
• В большинстве случаев собеседования проходят офлайн

Навыки

• C++
• Python
• TensorFlow
• JAX
• PyTorch
• XLA
• TPU
• GPU
• ML
• квантизация
• дистилляция знаний