Senior System Software Engineer - Dynamo-Triton Inference Server

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду GPU-ускоренного ПО для глубинного обучения NVIDIA. Работа над высокопроизводительной платформой AI-инференса Dynamo-Triton Inference Server и её объединением с NVIDIA Dynamo.

Задачи

• Разрабатывать GPU-ускоренное ПО для AI-инференса мирового уровня
• Участвовать в развитии функциональности и продвигать внедрение у клиентов
• Обеспечивать сближение стеков Triton Inference Server и NVIDIA Dynamo в единую высокопроизводительную платформу с паритетом функций для LLM и не-LLM нагрузок
• Активно участвовать в open source сообществе разработки ПО для глубинного обучения
• Создавать надёжное ПО для продакшн-серверов и облачных сред, оптимизировать пропускную способность и задержку предсказаний, внедрять новые технологии инференса

Требования

• MS или PhD в Computer Science или смежной области (или эквивалентный опыт)
• 12+ лет профессионального опыта работы с ПО для глубинного обучения
• Отличное владение Rust и C++, знакомство с Python
• Сильные навыки программирования и проектирования ПО, включая отладку, анализ производительности и проектирование тестов
• Опыт работы с высокомасштабируемыми распределёнными системами и ML-системами
• Сильные коммуникативные навыки и умение работать в быстрой agile-команде

Условия

• Гибридный формат работы
• Базовая зарплата 224 000 – 356 500 USD в год в зависимости от локации и опыта
• Право на участие в программе equity и льготы
• Равные возможности трудоустройства и инклюзивная среда

Навыки

• Rust
• C++
• Python
• TensorRT
• PyTorch
• ONNX
• OpenVINO
• vLLM
• TRT-LLM
• GPU memory management
• distributed systems
• GitHub