Amazon
Software Engineer- AI/ML, Amazon Neuron Training
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Инженер в команду Distributed Training (Annapurna Labs, AWS) для разработки и оптимизации распределённого обучения на кастомных ML-ускорителях Trainium в составе AWS Neuron.
Задачи
- Реализовывать и настраивать компоненты стека распределённого обучения для крупномасштабного обучения, post-training и RL-нагрузок на Trainium
- Работать с PyTorch и стеком Neuron
- Участвовать в реализации стратегий параллелизма: data, tensor и pipeline parallelism
- Применять форматы пониженной точности под руководством старших коллег
- Профилировать нагрузки и определять узкие места: compute, memory, collectives или host overhead
- Совместно с инженерами compiler, runtime и collectives доводить исправления до продакшена
- Создавать и поддерживать внутренние инструменты, бенчмарки и тесты для воспроизводимости performance-работы
Требования
- Bachelor's degree или выше в computer science или эквивалент
- 3+ года опыта полного цикла разработки ПО в продакшене
- 3+ года опыта с одним из языков программирования: Python, C/C++ или аналогичным
- 2+ года опыта проектирования систем (паттерны проектирования, надёжность и масштабирование)
- Понимание основ LLM/transformer: attention, autoregressive decoding, KV-cache, формы параллелизма
Условия
- Work-life balance и гибкий график
- Инклюзивная культура, employee-led affinity groups
- Комплексные бенefits: health insurance, 401(k) matching, оплачиваемый отпуск, parental leave
- Компенсация включает sign-on payments и RSU
- Базовая зарплата 165 200 – 223 600 USD в год
Навыки
- Python
- C/C++
- PyTorch
- JAX
- LLM
- Transformer
- Distributed Training
- Data Parallelism
- Tensor Parallelism
- Pipeline Parallelism
- RLHF
- PPO
- GRPO
- Performance Engineering
- Profiling
- AWS Trainium
- AWS Neuron
- GPU
- TPU