Staff Software Engineer, ML Performance, GPU

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду GPU Performance (Core ML) в Google: оптимизация, моделирование и оценка GPU-систем для ML-нагрузок, анализ производительности и масштабирование LLM на GPU-инфраструктуре.

Задачи

• Поддерживать бенчмарки обучения и инференса LLM и использовать их для поиска возможностей оптимизации, улучшения производительности XLA:GPU/Triton и планирования релизов XLA
• Совместно с продуктовыми командами (например, Google DeepMind) подключать, оптимизировать и масштабировать LLM и ML-модели на GPU
• Проводить симуляции на уровне архитектуры, бенчмаркинг производительности и roofline-анализ с использованием TRT-LLM, vLLM и SGLang для проектирования систем
• Анализировать метрики производительности и эффективности всего флота для выявления узких мест и разработки масштабируемых оптимизаций
• Исследовать и внедрять техники эффективности моделей и данных, инструменты и механизмы профилирования для повышения производительности и эффективности обучения

Требования

• Bachelor’s degree или эквивалентный практический опыт
• 8 лет опыта в разработке ПО
• 5 лет опыта в ML-дизайне и ML-инфраструктуре (деплой моделей, оценка моделей, обработка данных, отладка, fine tuning)
• Опыт работы с современными архитектурами GPU, иерархиями памяти и узкими местами производительности
• Опыт низкоуровневого программирования GPU (CUDA, Triton, CUTLASS и др.) и техник performance engineering
• Опыт работы с современными LLM и их деплоем на AI-ускорителях
• Предпочтительно: Master’s degree или PhD в инженерии, computer science или смежной технической области
• Предпочтительно: 8 лет опыта с структурами данных и алгоритмами
• Предпочтительно: 3 года опыта в технической руководящей роли с управлением проектными командами и определением технического направления
• Предпочтительно: 3 года опыта в сложной матричной организации с кросс-функциональными проектами
• Предпочтительно: опыт в hardware-aware дизайне алгоритмов и компиляторных стеках (например, OpenXLA), адаптации крупномасштабных ML-моделей и распределённых систем под пиковую производительность на ускорителях

Условия

• Оплата: $207000 - $300000 (USD) + 20% bonus target + equity + benefits
• Индивидуальная оплата определяется навыками, опытом и образованием/подготовкой
• В большинстве случаев собеседования проводятся очно

Навыки

• ML
• GPU
• CUDA
• Triton
• CUTLASS
• LLM
• XLA
• OpenXLA
• TRT-LLM
• vLLM
• SGLang
• performance engineering
• distributed systems