Distributed Spectrum
Senior Software Engineer, Backend Systems
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Senior backend-инженер в AI-исследовательскую компанию Distributed Spectrum. Проектирование и развитие сервисов платформы: приём данных спектра, оркестрация ML-инференса и агентный слой на базе LLM.
Задачи
- Проектировать, разрабатывать и эксплуатировать надёжные и масштабируемые backend-сервисы
- Архитектура агентного слоя платформы: tool-calling, оркестрация, управление состоянием и памятью, evaluation-харнессы для LLM-агентов
- Отвечать за архитектуру ML-инференса: serving моделей, батчинг, планирование GPU/CPU, оптимизация latency и стоимости, API для инференса
- Определять границы сервисов, контракты данных и стандарты API
- Обеспечивать production-готовность: инструментация, алертинг, graceful degradation, runbook'и
- Тесно работать с ML-исследователями над выводом моделей в прод
- Проводить design review, менторить инженеров и повышать планку качества кода
Требования
- 4–6+ лет профессионального опыта в разработке ПО, значительная часть — backend/распределённые системы в проде
- Сильное владение Python, Go, Rust или похожим системным языком; готовность переключаться между языками
- Практический опыт с AWS или другим крупным облаком (GCP, Azure): compute, networking, storage, IAM, managed data services
- Опыт построения или интеграции LLM/агентных систем: tool use, оркестрация, RAG, evaluation
- Опыт serving ML-моделей в проде (Triton, TorchServe, vLLM, кастомный serving) и понимание throughput, latency и cost
- Глубокое понимание API (REST/gRPC), асинхронной обработки, очередей/стриминга (Kafka, SQS, Kinesis) и trade-off'ов консистентности данных
- Опыт end-to-end владения системами и принятия долгосрочных архитектурных решений
Условия
- Зарплата выше рынка, equity и benefits
- Ранний Series A equity
- Медицинская, стоматологическая и vision-страховка
- 401(k) match до 4% зарплаты
- Гибкий PTO
- Ежедневные обеды в офисе в NYC
- Требование ITAR: гражданство США, ПМЖ, защищённый статус или получение разрешения Госдепа США
Навыки
- Python
- Go
- Rust
- AWS
- GCP
- Azure
- LLM
- RAG
- Triton
- TorchServe
- vLLM
- REST
- gRPC
- Kafka
- SQS
- Kinesis
- Docker
- Kubernetes
- ECS
- GPU programming