Forward Deployed Inference Engineer

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер по инференсу, работающий на стыке инженерии и клиентов: от запроса заказчика до оптимизированной модели на железе Tensordyne. Профилирование, бенчмаркинг, деплой и отладка PoC совместно с командами компилятора, рантайма и систем.

Задачи

• Превращать рабочие нагрузки клиентов в быстрые и достоверные ответы по производительности через профилирование и бенчмаркинг
• Определять релевантные KPI, сравнивать с конкурентными базовыми показателями и поддерживать методику оценки в актуальном состоянии
• Конвертировать и запускать модели клиентов на стеке Tensordyne, проверять численное качество, выявлять узкие места производительности
• Работать с командами компилятора, рантайма, ядер и систем для улучшения результатов
• Работать напрямую с клиентами и партнёрами над техническими PoC, интеграцией, деплоем и отладкой
• Переводить требования в измеримые критерии приёмки по качеству, задержке, пропускной способности и другим KPI
• Отслеживать точность профилирования относительно реального железа, объяснять расхождения и сообщать о недостающих возможностях владеющим командам
• Превращать повторяющиеся клиентские наработки в переиспользуемые инструменты, документацию, бенчмарки и улучшения продукта

Требования

• Сильный практический опыт с AI-моделями и системами инференса, особенно с dense и MoE LLM (Llama, DeepSeek, Qwen, GPT-OSS, Kimi, GLM), а также VLM, речевыми и диффузионными моделями
• Сильные навыки Python и PyTorch, умение понимать и модифицировать код моделей
• Опыт профилирования, бенчмаркинга или оптимизации инференса моделей и анализа задержки, пропускной способности, памяти и утилизации
• Сильные навыки решения проблем и коммуникации, способность вести неоднозначные технические задачи через границы команд
• Владение AI-инструментами разработчика (например, Claude Code, Cursor)

Условия

• Работа на стыке архитектуры моделей, производительности инференса, оптимизации систем, инструментов разработчика и клиентского деплоя
• Прямое взаимодействие с Product, BizDev, Sales и клиентами
• Работа с гиперскейлерами, Neoclouds, разработчиками передовых моделей и предприятиями
• Равные возможности трудоустройства

Навыки

• Python
• PyTorch
• LLM
• MoE
• Llama
• DeepSeek
• Qwen
• GPT-OSS
• Kimi
• GLM
• VLM
• diffusion models
• profiling
• benchmarking
• vLLM
• SGLang
• quantization
• distributed inference
• Kubernetes
• Rust
• Claude Code
• Cursor