SDE, Neuron Inference, Neuron Inference

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Senior-инженер в команду Machine Learning Inference Applications для AWS Neuron — программного стека для ускорителей Inferentia и Trainium. Занимается разработкой и оптимизацией производительности ключевых блоков LLM-инференса.

Задачи

• Адаптировать последние исследования по оптимизации LLM к чипам Neuron для максимальной производительности открытых и внутренних моделей
• Разрабатывать и оптимизировать ключевые блоки LLM-инференса: Attention, MLP, Quantization, Speculative Decoding, Mixture of Experts
• Работать в тесной связке с архитекторами чипов, компиляторными и runtime-инженерами
• Взаимодействовать между командами и организациями

Требования

• 3+ года профессионального опыта разработки ПО (не стажировки)
• 2+ года опыта проектирования или архитектуры новых и существующих систем (паттерны проектирования, надёжность, масштабирование)
• 1+ год опыта software development engineer или смежной роли
• 1+ год опыта проектирования и разработки крупномасштабных многоуровневых многопоточных встраиваемых или распределённых приложений, инструментов, систем и сервисов на C#, C++, Java или Perl
• 1+ год опыта объектно-ориентированного проектирования
• Степень бакалавра или иностранный эквивалент в области Computer Science, Engineering, Mathematics или смежной
• Опыт программирования хотя бы на одном языке

Условия

• Полный пакет: sign-on payments и restricted stock units (RSUs)
• Медицинская страховка (medical, dental, vision, prescription), Basic Life & AD&D, опция Supplemental life plans, EAP, поддержка ментального здоровья, Medical Advice Line, Flexible Spending Accounts
• Компенсация усыновления и суррогатного материнства
• 401(k) matching
• Оплачиваемый отпуск и родительский отпуск
• Менторство один-на-один, тщательные код-ревью, поддержка карьерного роста

Навыки

• C#
• C++
• Java
• Perl
• Object Oriented Design
• LLM Inference
• Attention
• MLP
• Quantization
• Speculative Decoding
• Mixture of Experts
• AWS Neuron
• Inferentia
• Trainium