Staff SW Engineer

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Staff-инженер в Fastino, команду по разработке LLM и платформы для AI. Роль про архитектуру платформы, agent harness, пайплайны обучения и инференса, деплой в customer-managed AWS VPC и full-stack фичи.

Задачи

• Определять техническое направление платформы Fastino и участвовать в архитектурных решениях
• Проектировать и строить agent harness: runtime loop, tool calling, управление контекстом, обработка ошибок, eval-харнессы
• Строить и масштабировать пайплайны обучения и инференса AI с фокусом на latency, throughput и cost
• Отвечать за деплой платформы в customer-managed AWS VPC на Kubernetes и Terraform, включая установку, обновление и observability
• Строить безопасные sandboxed-среды исполнения для агентских нагрузок на Modal Sandboxes
• Поставлять full-stack фичи end-to-end и брать самые сложные и неоднозначные задачи
• Работать в тесной связке с AI-исследователями над выводом моделей в прод, включая деплой, оценку и мониторинг
• Поднимать инженерную планку через code review, менторство и практики работы с AI coding agents
• Общаться с клиентами и быстро превращать фидбек в продуктовые решения

Требования

• 8+ лет практического опыта в software engineering, включая роль tech lead или ведение архитектуры команды/продукта
• Сильные архитектурные навыки и опыт проектирования и масштабирования production-систем под реальной нагрузкой
• Production-опыт с агентскими системами, пайплайнами обучения AI или инференса, желательно более одного
• Практический опыт деплоя ПО на AWS с Kubernetes и Terraform, желательно в customer-managed или multi-tenant окружениях
• Опыт построения и эксплуатации sandboxed-сред исполнения для агентских нагрузок, желательно с Modal Sandboxes
• Большой опыт работы с AI coding agents и умение направлять их на чистый production-код
• Умение работать в неопределённости и принимать решения без готового playbook
• Опционально: опыт построения agent harness или фреймворков в production, знание MCP и подобных протоколов
• Опционально: опыт с LangSmith или похожим тулингом для трассировки, оценки и мониторинга агентов
• Опционально: опыт оптимизации инференса — batching, quantization, GPU utilization, vLLM, SGLang, Triton
• Опционально: опыт высоконагруженных backend-систем или low-latency API
• Опционально: опыт в стартапе, желательно ранним инженером

Условия

• Full-time
• Офис в San Francisco
• Присоединение к команде с alumni из Google Research, Apple, Stanford и Cambridge
• Продукт с открытыми моделями GLiNER, скачанными более 50 млн раз
• Компания привлекла $25M seed-раунда от Microsoft, Khosla Ventures, Insight Partners и других

Навыки

• LLM
• agent harness
• tool calling
• context management
• eval harnesses
• AI training pipelines
• inference pipelines
• AWS
• Kubernetes
• Terraform
• Modal Sandboxes
• MCP
• LangSmith
• vLLM
• SGLang
• Triton
• GPU
• quantization
• batching
• low-latency API
• AI coding agents