Amazon

Software Engineer- AI/ML, Amazon Neuron Training

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду Distributed Training (Annapurna Labs, AWS) для разработки и оптимизации распределённого обучения на кастомных ML-ускорителях Trainium в составе AWS Neuron.

Задачи

  • Реализовывать и настраивать компоненты стека распределённого обучения для крупномасштабного обучения, post-training и RL-нагрузок на Trainium
  • Работать с PyTorch и стеком Neuron
  • Участвовать в реализации стратегий параллелизма: data, tensor и pipeline parallelism
  • Применять форматы пониженной точности под руководством старших коллег
  • Профилировать нагрузки и определять узкие места: compute, memory, collectives или host overhead
  • Совместно с инженерами compiler, runtime и collectives доводить исправления до продакшена
  • Создавать и поддерживать внутренние инструменты, бенчмарки и тесты для воспроизводимости performance-работы

Требования

  • Bachelor's degree или выше в computer science или эквивалент
  • 3+ года опыта полного цикла разработки ПО в продакшене
  • 3+ года опыта с одним из языков программирования: Python, C/C++ или аналогичным
  • 2+ года опыта проектирования систем (паттерны проектирования, надёжность и масштабирование)
  • Понимание основ LLM/transformer: attention, autoregressive decoding, KV-cache, формы параллелизма

Условия

  • Work-life balance и гибкий график
  • Инклюзивная культура, employee-led affinity groups
  • Комплексные бенefits: health insurance, 401(k) matching, оплачиваемый отпуск, parental leave
  • Компенсация включает sign-on payments и RSU
  • Базовая зарплата 165 200 – 223 600 USD в год

Навыки

  • Python
  • C/C++
  • PyTorch
  • JAX
  • LLM
  • Transformer
  • Distributed Training
  • Data Parallelism
  • Tensor Parallelism
  • Pipeline Parallelism
  • RLHF
  • PPO
  • GRPO
  • Performance Engineering
  • Profiling
  • AWS Trainium
  • AWS Neuron
  • GPU
  • TPU

Похожие вакансии

Senior Software Engineer - AI/ML
US BankSeniorMinneapolisГибрид
119,765 – 140,900 USD в год
14 окт.
Staff Engineer II - AI Forward Full Stack Engineer
Western Alliance BankSeniorPhoenixОфис
14 окт.
AI Engineer 4
Capital OneSeniorNew YorkОфис
197,300 – 245,600 USD в год
13 окт.
Efficiency AI Ops Engineer Hybrid
CiscoMiddleSan JoseГибрид
203,000 – 258,600 USD в год
13 окт.
Principal AI Engineer, SMAI
Micron TechnologyLeadBoiseОфис
13 окт.
Software Engineer- AI/ML, Amazon Neuron Training — Amazon, 165,200 – 223,600 USD в год, Cupertino | itrelocate