Software Engineer, Platform

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инфраструктурный инженер в команду платформы Arena Intelligence. Задача — строить базовую инфраструктуру для онлайн-систем оценки AI-моделей: AI-шлюзы, рантаймы арен и сервисные слои, работающие под высокой нагрузкой.

Задачи

• Проектировать и реализовывать низколатентные и высоконадёжные API для лидербордов, моделей и арен
• Решать сложные задачи стриминга: SSE/streaming ответы от разных провайдеров, восстановление после частичных сбоев, mid-stream fallback, нормализация ответов
• Строить инфраструктуру корпоративного уровня: rate limiting, аутентификация, учёт использования, атрибуция затрат, audit logging, соответствие SOC 2
• Обеспечивать глубокую наблюдаемость: распределённый трейсинг, разбивка задержек, учёт токенов, real-time дашборды
• Интегрироваться с платформой оценки, данными Arena и кастомными бенчмарками клиентов, превращать исследовательские идеи в полноценные продукты
• При необходимости работать над бэкендом платформ Leaderboards и Evals, унифицируя публичную и приватную архитектуры данных

Требования

• ~5+ лет опыта backend-разработки, значительная часть — распределённые системы, инфраструктура или платформы для разработчиков
• Уверенное владение Go — основной backend-язык, обязательное требование
• Опыт работы с API LLM-провайдеров (OpenAI, Anthropic, Google и др.) и понимание их особенностей: стриминг, управление токенами, rate limits, специфичные нюансы моделей
• Продуктовое мышление: забота о developer experience API, а не только о реализации
• Комфорт в условиях неопределённости, готовность брать на себя разные роли в стартапе

Условия

• Конкурентная компенсация и опционы, привязанные к рынку локации сотрудника
• Полный пакет медицинских и wellness-льгот: медицинская страховка, стоматология, зрение и дополнительные программы поддержки
• Работа над передовым AI в небольшой миссионерской команде
• Культура, ценящая прозрачность, доверие и влияние на сообщество
• Гибридный формат: офис в Сан-Франциско, минимум 3 дня в неделю

Навыки

• Go
• SSE
• Streaming
• Rate limiting
• Authentication
• Usage metering
• Cost attribution
• Audit logging
• SOC 2
• Distributed tracing
• OpenAI API
• Anthropic API
• Google AI API
• AWS
• GCP
• Azure
• Kubernetes
• Terraform
• Postgres
• Redis
• API gateways
• Envoy
• Kong
• vLLM
• LiteLLM
• LangChain
• Stripe
• SSO
• RBAC
• Multi-tenancy