NVIDIA
Senior System Software Engineer - Dynamo-Triton Inference Server
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Senior-инженер в команду GPU-ускоренного ПО NVIDIA для разработки высокопроизводительной платформы AI-инференса Dynamo-Triton Inference Server. Задача — объединить стеки Triton и Dynamo в единую платформу для LLM и не-LLM нагрузок.
Задачи
- Разрабатывать GPU-ускоренное ПО для AI-инференса
- Развивать функциональность и обеспечивать широкое внедрение у заказчиков
- Обеспечивать сближение стеков Triton Inference Server и NVIDIA Dynamo в единую высокопроизводительную платформу с паритетом функций для LLM и не-LLM нагрузок
- Активно участвовать в open source сообществе разработки ПО для глубокого обучения
- Балансировать задачи: надёжное ПО для production и облака, оптимизация throughput и latency предсказаний, внедрение новых технологий инференса
Требования
- MS или PhD в Computer Science или смежной области (или эквивалентный опыт)
- 12+ лет профессионального опыта работы с ПО для глубокого обучения
- Отличное владение Rust и C++, знакомство с Python
- Сильные навыки программирования и проектирования ПО, включая отладку, анализ производительности и проектирование тестов
- Опыт работы с высокомасштабируемыми распределёнными системами и ML-системами
- Сильные коммуникативные навыки и умение работать в быстрой agile-команде
Условия
- Базовая зарплата 224 000 – 356 500 USD в год в зависимости от локации и опыта
- Equity и льготы
- Гибридный формат работы
- Приём заявок минимум до 22 сентября 2026
Навыки
- Rust
- C++
- Python
- GPU
- Deep Learning
- Distributed Systems
- ML Systems
- TensorRT
- PyTorch
- ONNX
- OpenVINO
- vLLM
- TRT-LLM
- GPU memory management
- High-performance networking
- GitHub
- Open Source