ServiceNow
Senior Software Engineer, Agentic Platform - Moveworks
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Инженер в команду runtime-инфраструктуры AI-агентов Moveworks. Задача — строить распределённые системы, которые оркестрируют, исполняют и доставляют ответы агентов на базе LLM миллионам корпоративных пользователей в реальном времени.
Задачи
- Разрабатывать движок оркестрации агентов — конечный автомат для долгоживущих сессий с планированием, исполнением и взаимодействием с пользователем
- Реализовывать маршрутизацию между LLM, их дообучение и дистилляцию под конкретные задачи агентов
- Строить распределённое управление сессиями на основе lease, heartbeat и восстановления после сбоев через checkpointing
- Разрабатывать event-driven пайплайн сообщений: FIFO-очереди, консьюмеры, стриминг через gRPC и Socket.IO
- Обеспечивать структурированную конкурентность с fail-fast и корректной отменой задач
- Настраивать observability: OpenTelemetry, распределённые трейсы, кастомные спаны для долгих сессий
- Работать со слоями кэширования и состояния на Redis и DynamoDB с per-org/per-bot скоупом
- Строить подключение инструментов и агентов для LLM: MCP, A2A, discovery и выбор инструментов из больших каталогов
- Оптимизировать расход токенов и контекст: кэширование, спекулятивное и параллельное планирование вызовов моделей
- Внедрять и оценивать open-weights модели разных уровней квантизации, бенчмаркать точность, латентность и стоимость
Требования
- Глубокий опыт минимум в 3 областях: распределённые системы, конкурентное/асинхронное программирование, event-driven архитектуры, инфраструктурные БД, observability, gRPC/protobuf, машинное обучение
- 5+ лет разработки production backend/infrastructure систем
- Сильное владение Python или Go (желательно обоими)
- Опыт проектирования и эксплуатации систем под реальной нагрузкой на масштабе
- Практический опыт создания production-систем с LLM или другими ML-моделями
- Комфорт в условиях неопределённости и нестандартных задач
Условия
- Базовая зарплата $161,300 – $274,200
- Equity и переменная компенсация
- Медицинские планы, включая flexible spending accounts
- 401(k) с матчингом компании и ESPP
- Гибкий график отпусков и программы семейного отпуска
- Гибкие work personas: flexible, remote или офис
Навыки
- Python
- Go
- asyncio
- goroutines
- SQS
- Kafka
- DynamoDB
- Redis
- OpenTelemetry
- Prometheus
- gRPC
- protobuf
- Socket.IO
- LLM
- NLP
- RAG
- MCP
- A2A
- machine learning