Systems Software Engineer (AI inference stack, CUDA)

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Principal Systems Software Engineer в группе Storage and Memory Systems (ITP Pathfinding) компании Micron. Проектирование и разработка ПО для AI inference стеков, эмуляторов и демонстрации возможностей будущих технологий памяти и хранения.

Задачи

• Проектировать и модифицировать AI inference software стеки для proof-of-concept аппаратных возможностей
• Разрабатывать ПО для количественной оценки и демонстрации ценности предложенных системных функций
• Руководить архитектурой и разработкой ПО, в том числе как технический лид небольших команд
• Исследовать новые темы AI-софта для выявления задач и возможностей систем памяти и хранения
• Разрабатывать и модифицировать Linux-приложения и библиотеки на C, C++, Python, Rust, CUDA и/или SYCL для гетерогенных вычислительных систем
• Разрабатывать и использовать эмуляторы для прогнозирования системной производительности до появления железа
• Отлаживать системные проблемы на уровне приложений, библиотек, ОС, ядер, конфигурации, сетей и интерфейсов hardware/software
• Использовать новые AI-инструменты для повышения продуктивности
• Взаимодействовать с подразделениями Micron и внешними партнёрами
• Менторить стажёров и менее опытных инженеров
• Презентовать технические результаты и инновации внутренним и внешним заказчикам

Требования

• Степень бакалавра или магистра и 10+ лет опыта, либо PhD и 7+ лет опыта в Computer Science, Software Engineering, Computer Engineering или смежной области
• Понимание архитектуры end-to-end AI inference стеков и практический опыт разработки на нескольких уровнях: фреймворки, inference engines, ML-компиляторы, compiler infrastructure, hardware runtimes или hardware abstraction layers
• Опыт отладки проблем на уровне приложений, библиотек, ОС, ядер, сетей и интерфейсов hardware/software
• Уверенные навыки разработки на C, C++ и Python, опыт Linux-программирования: многопоточность, IPC, ioctl, GDB, файловые системы /proc и /sys
• Опыт программирования GPU или других ускорителей с использованием CUDA, SYCL, OpenCL или аналогичной модели
• Подтверждённая способность вести технические инициативы без формальной руководящей роли
• Знание внутренностей LLM serving: управление KV-cache, фазы prefill и decode, KV-cache offloading, disaggregated serving
• Знакомство с inference engines и распределёнными serving-фреймворками: SGLang, vLLM, NVIDIA Dynamo, TensorRT-LLM
• Сильное понимание концепций гетерогенных вычислений: иерархии памяти, NUMA, кэширование, архитектуры ускорителей, интерконнекты PCIe, CXL, NVLink, UALink

Условия

• Медицинская, стоматологическая и офтальмологическая страховка
• Программы защиты дохода при болезни или травме, оплачиваемый семейный отпуск
• Оплачиваемый отпуск и праздничные дни
• Равные возможности трудоустройства (equal opportunity employer)

Навыки

• C
• C++
• Python
• Rust
• CUDA
• SYCL
• OpenCL
• Linux
• GDB
• LLM serving
• KV-cache
• SGLang
• vLLM
• NVIDIA Dynamo
• TensorRT-LLM
• NUMA
• PCIe
• CXL
• NVLink
• UALink
• HBM
• DRAM
• NVMe
• NAND