Senior Software Engineer, ML Enablement

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду ML Enablement, которая строит и развивает инфраструктуру для обучения, хостинга и сервинга ML-моделей Etsy, включая внутреннюю платформу Barista и открытые LLM. Роль про архитектуру масштабируемого и надёжного сервинга моделей на миллионы инференсов в секунду.

Задачи

• Писать production-код на Python, участвовать в код-ревью и парном программировании, вносить вклад в архитектурные решения
• Строить, эксплуатировать и улучшать инфраструктуру обучения и сервинга ML-моделей на GCP и Kubernetes с фокусом на масштабируемость, надёжность и наблюдаемость
• Проектировать и поддерживать инфраструктуру сервинга открытых и внутренних LLM: деплой моделей, управление ресурсами, тюнинг производительности
• Применять знания основ ML (нейросети, трансформеры, системы предсказания и инференса) для обоснованных инфраструктурных решений
• Кросс-функционально работать с Applied Scientists, переводить их потребности в инфраструктуру
• Участвовать в обсуждениях системного дизайна, взвешивая tradeoffs производительности, стоимости и надёжности
• Осознанно использовать генеративный AI и другие инструменты продуктивности

Требования

• Степень бакалавра в Computer Science, прикладной статистике, математике, электротехнике или смежной количественной области либо эквивалентный опыт
• 5+ лет профессионального опыта построения, развития и отладки сложных backend- и инфраструктурных систем
• Сильные основы software engineering: алгоритмы и структуры данных, production-код на Python
• Практический опыт с облачной инфраструктурой (предпочтительно Google Cloud) и Kubernetes, включая деплой и эксплуатацию production-нагрузок
• Знакомство с observability-инструментами (метрики, логи, трейсинг) для мониторинга и отладки распределённых систем
• Рабочее знание основ ML, понимание инфраструктуры сервинга LLM и хостинга открытых моделей
• Базовое понимание архитектур трансформеров и того, как дизайн моделей влияет на инфраструктуру сервинга
• Уверенность в системном дизайне крупномасштабной high-availability инфраструктуры

Условия

• Полная занятость, отчёт Engineering Manager в команде ML Enablement
• Гибридный формат: офис в Бруклине, 1–2 дня в неделю; удалённые кандидаты вне зоны комьюта рассматриваются индивидуально
• Пакет equity, годовой performance-бонус и конкурентные бенефиты
• Базовая зарплата зависит от локации, навыков и опыта; две географические зоны оплаты (Geo-1 и Geo-2)
• Поддержка визовой спонсорства (может быть ограничена для отдельных ролей)

Навыки

• Python
• GCP
• Kubernetes
• LLM
• Machine Learning
• Transformers
• Observability
• Distributed Systems
• System Design