Staff Software Engineer, AI Gateway

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Staff-инженер в команду Docker AI Gateway — платформы для оркестрации моделей, инструментов и политик при построении AI-агентов. Роль предполагает техническое лидерство и hands-on разработку ядра шлюза: маршрутизации моделей, MCP-гейтвея и control plane.

Задачи

• Задавать техническое направление для ключевых систем AI Gateway: model router, MCP gateway и control plane, обеспечивая устойчивость архитектуры при росте нагрузки в 10 раз
• Выявлять пробелы в инфраструктуре, процессах и инструментах до того, как они станут блокерами, и доводить исправления до продакшена
• Активно участвовать в определении и реализации технической стратегии Gateway совместно с инженерным руководством
• Решать самые сложные и неоднозначные задачи: динамический выбор модели, auto-failover, маршрутизация по стоимости и сквозное применение политик
• Быть экспертом по безопасному хранению учётных данных, суммаризации сессий, кэшированию и rate limiting
• Строить инфраструктуру для оценки, воспроизведения и бэктестинга поведения агентов и LLM
• Менторить senior- и middle-инженеров, повышать техническую планку через код и ревью дизайна
• Работать с product, design и руководством над развитием продукта и control plane UI

Требования

• 8+ лет опыта backend-разработки с владением production-системами значительного масштаба
• Глубокая специализация в распределённых системах, cloud-native инфраструктуре и проектировании API
• Опыт построения безопасных высоконагруженных сервисов (gateways, proxies, load balancers, policy engines)
• Свободное владение Go и/или Rust
• Опыт выявления системных пробелов в архитектуре, процессах или инструментах и их устранения за пределами своей команды
• Сильный продуктовый mindset и опыт формирования технического направления, а не только исполнения
• Способность работать с широкой автономией
• Степень бакалавра в Computer Science, Engineering или смежной области либо эквивалентный практический опыт

Условия

• Remote-first культура: работа из любой точки, офисы в Сиэтле и Париже для встреч и коллаборации
• Гибкий график
• Щедрый PTO, квартальные Whaleness Days и новогодний перерыв
• Поддержка домашнего офиса
• Технологический стипенд около US$100 нетто в месяц
• Годовой бюджет на обучение: конференции, курсы, сертификации
• Оплачиваемый родительский отпуск 16 недель после шести месяцев работы
• Equity для всех full-time сотрудников
• Медицинская страховка, пенсионные программы и оплачиваемые праздники в зависимости от страны
• Компенсация в США: $170,350 – $275,550 + equity
• Спонсорство рассматривается в индивидуальном порядке

Навыки

• Go
• Rust
• distributed systems
• cloud-native infrastructure
• API design
• gateways
• proxies
• load balancers
• policy engines
• OpenAI API
• Anthropic API
• RAG
• vector databases
• LangChain
• AutoGPT
• CrewAI
• OPA
• OpenTelemetry
• OAuth 2.1
• secret management
• cloud IAM
• Kubernetes
• Docker
• microservices