Staff Software Engineer, Model as a Service, Cloud AI

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду Model as a Service (MaaS) в Google Cloud AI. Задача — строить инфраструктуру для хостинга и масштабирования больших генеративных моделей как облачного сервиса.

Задачи

• Строить инфраструктуру, позволяющую создателям моделей зарабатывать на своих моделях
• Создавать платформу для управления сервисами партнёров на Vertex
• Совместно со смежными командами внедрять оптимизированные модели и техники сервинга (prefix caching, cache-aware routing и др.)
• Строить инфраструктуру для эффективного онбординга open-source и закрытых моделей в Google Cloud
• Масштабировать и поддерживать существующие развёртывания Model-as-a-Service

Требования

• Bachelor’s degree или эквивалентный практический опыт
• 8 лет опыта в разработке ПО
• 5 лет опыта тестирования и запуска программных продуктов
• 3 года опыта в проектировании и архитектуре ПО
• 5 лет опыта в ML-дизайне и ML-инфраструктуре (деплой моделей, оценка моделей, обработка данных, отладка, fine tuning)
• Опыт интеграции генеративных AI-инструментов или LLM-интерфейсов в рабочие процессы
• Опыт работы с Kubernetes, C++, Go
• Предпочтительно: Master’s degree или PhD в инженерии, computer science или смежной технической области
• Предпочтительно: 8 лет опыта с структурами данных и алгоритмами
• Предпочтительно: 5 лет опыта разработки на Go, Python или Java
• Предпочтительно: 3 года опыта технического лидерства — руководство проектными командами и определение технического направления
• Предпочтительно: 3 года опыта проектирования распределённых систем и инфраструктурного ПО

Условия

• Оплата: $207000 - $300000 (USD) + 20% bonus target + equity + benefits
• Индивидуальная оплата определяется навыками, опытом и образованием/подготовкой
• Возможность переключаться между командами и проектами по мере роста
• Работа над проектами, критичными для Google

Навыки

• Kubernetes
• C++
• Go
• Python
• Java
• ML infrastructure
• model deployment
• model evaluation
• data processing
• fine tuning
• generative AI
• LLM
• distributed systems
• Vertex
• prefix caching
• cache-aware routing