Sr. Software Engineer- AI/ML, AWS Neuron

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Senior-инженер в команду Machine Learning Applications AWS Neuron. Занимается оптимизацией инференса генеративных AI-моделей на кастомных ускорителях Amazon Inferentia и Trainium.

Задачи

• Проектировать, разрабатывать и оптимизировать ML-модели (GPT, Kimi, Qwen) на кастомных AI-ускорителях
• Участвовать во всех этапах жизненного цикла ML-системы: проектирование распределённой архитектуры, реализация, профилирование производительности, низкоуровневые оптимизации, продакшн-деплой
• Строить инфраструктуру для систематического анализа и подключения множества моделей с разной архитектурой
• Проектировать и реализовывать высокопроизводительные ядра и функции для ML-операций с использованием архитектуры Neuron
• Анализировать и оптимизировать производительность на уровне системы для нескольких поколений железа Neuron
• Проводить детальный анализ производительности с помощью профилировщиков и устранять узкие места
• Реализовывать оптимизации: fusion, sharding, tiling, scheduling
• Работать напрямую с клиентами для включения и оптимизации их ML-моделей на ускорителях AWS
• Сотрудничать с командами компилятора, рантайма, фреймворков и железа
• Разрабатывать ядра для повышения эффективности моделей на AI-ускорителях Amazon
• Преобразовывать сложные тензорные операции в высокооптимизированные графовые реализации
• Оптимизировать современные языковые, vision и мультимодальные генеративные модели под железо Neuron

Требования

• Bachelor's degree
• 5+ лет профессионального опыта разработки ПО (не стажировки)
• Знание Python и/или C++
• 5+ лет опыта ведущего проектирования или архитектуры (паттерны проектирования, надёжность и масштабирование) новых и существующих систем
• Опыт отладки, профилирования и внедрения лучших практик разработки в крупномасштабных системах
• Знание производительности систем, управления памятью и принципов параллельных вычислений
• Опыт владения дорожной картой оптимизации производительности и менторства инженеров

Условия

• Полный соцпакет: медицинская страховка (medical, dental, vision, рецепты, Basic Life & AD&D, опция Supplemental life plans, EAP, поддержка ментального здоровья, Medical Advice Line, Flexible Spending Accounts, компенсация усыновления и суррогатного материнства)
• 401(k) с matching
• Оплачиваемый отпуск
• Родительский отпуск
• Sign-on payments и restricted stock units (RSUs)
• Баланс работы и личной жизни
• Стартап-подобная среда разработки

Навыки

• Python
• C++
• PyTorch
• CUDA
• Triton
• NCCL
• distributed computing
• LLM
• transformer architecture
• inference
• performance optimization
• profiling
• memory management
• parallel computing
• kernels
• fusion
• sharding
• tiling
• scheduling
• multi-GPU
• multi-node
• tensor parallelism
• pipeline parallelism
• expert parallelism
• system architecture
• low-level optimization