NVIDIA

Senior System Software Engineer - Dynamo-Triton Inference Server

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Senior-инженер в команду GPU-ускоренного ПО NVIDIA для разработки высокопроизводительной платформы AI-инференса Dynamo-Triton Inference Server. Задача — объединить стеки Triton и Dynamo в единую платформу для LLM и не-LLM нагрузок.

Задачи

  • Разрабатывать GPU-ускоренное ПО для AI-инференса
  • Развивать функциональность и обеспечивать широкое внедрение у заказчиков
  • Обеспечивать сближение стеков Triton Inference Server и NVIDIA Dynamo в единую высокопроизводительную платформу с паритетом функций для LLM и не-LLM нагрузок
  • Активно участвовать в open source сообществе разработки ПО для глубокого обучения
  • Балансировать задачи: надёжное ПО для production и облака, оптимизация throughput и latency предсказаний, внедрение новых технологий инференса

Требования

  • MS или PhD в Computer Science или смежной области (или эквивалентный опыт)
  • 12+ лет профессионального опыта работы с ПО для глубокого обучения
  • Отличное владение Rust и C++, знакомство с Python
  • Сильные навыки программирования и проектирования ПО, включая отладку, анализ производительности и проектирование тестов
  • Опыт работы с высокомасштабируемыми распределёнными системами и ML-системами
  • Сильные коммуникативные навыки и умение работать в быстрой agile-команде

Условия

  • Базовая зарплата 224 000 – 356 500 USD в год в зависимости от локации и опыта
  • Equity и льготы
  • Гибридный формат работы
  • Приём заявок минимум до 22 сентября 2026

Навыки

  • Rust
  • C++
  • Python
  • GPU
  • Deep Learning
  • Distributed Systems
  • ML Systems
  • TensorRT
  • PyTorch
  • ONNX
  • OpenVINO
  • vLLM
  • TRT-LLM
  • GPU memory management
  • High-performance networking
  • GitHub
  • Open Source

Похожие вакансии

Senior Software Engineer - AI/ML
US BankSeniorMinneapolisГибрид
119,765 – 140,900 USD в год
14 окт.
AI Engineer 4
Capital OneSeniorNew YorkОфис
197,300 – 245,600 USD в год
13 окт.
Efficiency AI Ops Engineer Hybrid
CiscoMiddleSan JoseГибрид
203,000 – 258,600 USD в год
13 окт.
Lead Software Engineer
HumanaLeadNew YorkУдалённо
155,200 – 213,400 USD в год
13 окт.
AI Software Developer
Inland Pipe RehabilitationSeniorThe WoodlandsОфис
12 окт.
Senior System Software Engineer - Dynamo-Triton Inference Server — NVIDIA, 224,000 – 356,500 USD в год, Гибрид | itrelocate