Senior Backend Engineer, AI Platform

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Senior backend-инженер для построения AI-платформы: интеграция LLM, RAG, serving моделей и надёжная backend-архитектура для продукта с миллионами пользователей. Полная удалёнка для кандидатов из США.

Задачи

• Проектировать, разрабатывать и масштабировать backend-инфраструктуру для production AI-фич
• Разрабатывать сервисы интеграции нескольких LLM-провайдеров: маршрутизация моделей, failover, стриминг токенов, учёт затрат
• Строить и оптимизировать retrieval-системы: векторный поиск, embedding-пайплайны, сборка контекста, ответы со ссылками на источники
• Проектировать API и backend-сервисы с полной ответственностью за архитектуру, схемы, деплой и поддержку
• Обеспечивать надёжность и наблюдаемость: мониторинг галлюцинаций, сбоев retrieval, отказов провайдеров, задержек и затрат
• Разрабатывать повторяемые методы оценки качества AI-ответов (релевантность, безопасность, качество источников)
• Мониторить live-сервисы, разбирать инциденты, повышать устойчивость системы
• Сотрудничать с архитекторами и разработчиками, формировать инженерные стандарты и интегрировать AI с существующими сервисами

Требования

• Не менее 5 лет backend-разработки на статически типизированном языке (Go, Java, Kotlin или C#)
• Опыт вывода и поддержки LLM-фич в production: RAG, стриминг ответов, tool use
• Опыт работы с инфраструктурой serving моделей: маршрутизация между провайдерами, failover, стриминг токенов, учёт затрат
• Опыт разработки векторного поиска, embedding-пайплайнов, сборки контекста и систем с ответами на основе источников
• Понимание режимов отказа AI и умение внедрять инструментацию, мониторинг и защитные механизмы
• Умение оценивать качество AI-выдачи простыми повторяемыми тестами (релевантность, безопасность, качество источников)
• Сильные навыки проектирования API и владения сервисом на всём жизненном цикле, включая on-call
• Проживание в США и разрешение на работу
• Предпочтительно: опыт Go, знакомство с Python
• Предпочтительно: опыт с LLM-шлюзами и serving-фреймворками (LiteLLM, vLLM, TGI или аналоги)
• Предпочтительно: векторные БД (Qdrant, pgvector), embedding-пайплайны, fine-tuning open-weight моделей (LoRA или полный)
• Плюсом: опыт content moderation или AI safety, знакомство с Ruby on Rails или React/TypeScript

Условия

• Полная удалёнка, full-time, для кандидатов из США
• Техническое владение: greenfield AI-инфраструктура и влияние на архитектурные решения
• Работа над AI-фичами для платформы с миллионами пользователей
• Современный стек: Go, Ruby on Rails, Python, React/TypeScript, PostgreSQL, Redis, RabbitMQ, несколько дата-центров
• Профессиональный рост в LLM-инфраструктуре, retrieval-системах и production-инженерии
• Прямое сотрудничество с архитекторами платформы
• Компенсация, страховка, пенсионные бенефиты и оплачиваемый отпуск обсуждаются на этапе найма

Навыки

• Go
• Java
• Kotlin
• C#
• Python
• LLM
• RAG
• LiteLLM
• vLLM
• TGI
• Qdrant
• pgvector
• LoRA
• Ruby on Rails
• React
• TypeScript
• PostgreSQL
• Redis
• RabbitMQ