Senior Software Engineer, Machine Learning Platform

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Senior-инженер в команду Machine Learning Platform компании Chime. Задача — строить и развивать инфраструктуру, инструменты и developer experience для обучения, деплоя и мониторинга ML- и AI-моделей, включая LLM и агентные системы.

Задачи

• Проектировать, строить и эксплуатировать масштабируемую ML- и AI-инфраструктуру на AWS
• Разрабатывать общие платформенные возможности для LLM и агентных нагрузок: доступ к моделям, жизненный цикл промптов и конфигураций, retrieval, интеграция инструментов, управление состоянием и оркестрация workflow
• Строить фреймворки оценки для недетерминированных AI-систем: офлайн-бенчмарки, регрессионное тестирование, онлайн-сигналы качества, обратная связь от людей и анализ сбоев
• Обеспечивать observability, надёжность и governance для моделей и агентов: трейсы, версии моделей и промптов, вызовы инструментов, latency, расход токенов, качество, безопасность, приватность и стоимость
• Помогать командам принимать архитектурные решения по традиционному ML, LLM-приложениям и агентным workflow, участвовать в техническом роадмапе платформы
• Строить системы распределённого обучения, батч-инференса и крупномасштабной обработки на Ray или Spark
• Создавать и поддерживать infrastructure as code на Terraform
• Поддерживать и развивать feature store и feature-пайплайны
• Разрабатывать системы ingestion и стриминга данных на Kinesis, Kafka, Flink или Spark
• Улучшать CI/CD-процессы для ML-моделей, AI-приложений и компонентов платформы
• Тесно работать с командами Data Science и ML Engineering для улучшения developer experience
• Участвовать в on-call дежурствах для поддержки продакшн-систем

Требования

• Понимание жизненного цикла разработки ML: предобработка данных, обучение, оценка, деплой и мониторинг моделей
• Опыт проектирования распределённых систем и крупномасштабных data/compute-платформ на AWS с использованием Spark или Ray
• 5+ лет опыта в ML/AI-инфраструктуре, платформенной инженерии, распределённых системах или продакшн ML-системах
• Рабочее знание паттернов LLM-приложений: RAG, структурированные выходы, tool calling, оркестрация агентов и оценка недетерминированных систем
• Опыт проектирования продакшн-систем, интегрирующих ML или foundation-модели через надёжные API, workflow и data contracts
• Практический опыт с CI/CD-пайплайнами, DevOps-практиками и infrastructure as code
• Опыт с контейнеризацией и оркестрацией: Docker и Kubernetes
• Сильные навыки программирования на Python, Go, Scala, Java или аналогичных языках
• Понимание основ software engineering: тестирование, контроль версий, code review и observability

Условия

• Базовая зарплата от $187,000 до $259,000 в год
• Бонус, конкурентный equity-пакет и льготы для full-time сотрудников
• Гибридный график: четыре дня в неделю в офисе и пятница из дома для тех, кто рядом с офисом, плюс полностью удалённая программа
• Компенсация backup-ухода за детьми, пожилыми и питомцами, субсидированные расходы на дорогу
• Комплексные льготы по здоровью, финансам и wellbeing
• Щедрая политика отпусков и общие оплачиваемые выходные
• 1% рабочего времени на поддержку местных сообществ
• Ежегодный wellness-стипендия
• До 22 недель оплачиваемого родительского отпуска для рожающих родителей и 12 недель для нерожащих
• Компенсация расходов на планирование семьи

Навыки

• AWS
• LLM
• RAG
• agentic systems
• Ray
• Spark
• Terraform
• feature store
• Kinesis
• Kafka
• Flink
• CI/CD
• Docker
• Kubernetes
• Python
• Go
• Scala
• Java
• vector search
• Amazon Bedrock
• SageMaker
• GPU
• CUDA