Staff Software Engineer, DeepMind
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Staff-инженер в команду GenAI Eval Platform Google DeepMind. Задача — строить масштабную платформу оценки фронтирных AI-моделей: движки распределённого исполнения инференса, абстракции для оценки LLM-агентов и автоматические системы LLM-as-a-judge.
Задачи
- Проектировать и оптимизировать распределённые движки исполнения оценки, оркестрирующие большие объёмы инференса на пулах TPU и GCU с высокой пропускной способностью и низкой задержкой
- Создавать базовые абстракции для оценки сложных циклов LLM-агентов, использования инструментов и автоматических систем рейтинга LLM-as-a-judge
- Проектировать классификацию ошибок, автоматические политики ретраев и дашборды наблюдаемости для соблюдения строгих SLO по успешности пайплайнов оценки
- Тесно работать с исследователями GDM и командами data science, предугадывая требования к оценке фронтирных моделей и превращая их в масштабируемые инфраструктурные решения
- Менторить инженеров, задавать высокие стандарты качества кода (Python в Google3) и продвигать строгое тестирование и практики проектирования систем
Требования
- Степень бакалавра в Computer Science, Software Engineering, Mathematics или смежной STEM-области либо эквивалентный практический опыт
- 5 лет опыта программирования на одном или нескольких языках общего назначения (например, Python, Java, C или C++)
- 5 лет опыта проектирования и запуска крупномасштабных production-продуктов или фундаментальных AI-систем
- 4 года опыта в разработке ПО
- 3 года опыта руководства проектированием ПО и архитектурой систем для высоконагруженных распределённых систем, рантаймов фундаментальных моделей или клиентских приложений
- Предпочтительно: магистратура или PhD в Computer Science, Artificial Intelligence, Robotics или смежной технической области
- Предпочтительно: 5 лет опыта на технической руководящей роли с определением технического направления и ведением проектных команд
- Предпочтительно: 3 года опыта ведения сложных кросс-функциональных инициатив совместно с research, engineering, product management и UX design
- Предпочтительно: опыт разработки, оценки или сервинга больших языковых моделей, агентных workflow, мультимодальных пайплайнов или AI runtime API (например, PyTorch, JAX, Triton, vLLM, Gemini API)
Условия
- Зарплата в США: $207000 - $300000 (USD) + целевой бонус 20% + equity + benefits
- Возможность выбрать предпочтительное место работы: Mountain View, CA или New York, NY
- Работа в пионерской AI-лаборатории с междисциплинарными командами
- Глобальные команды, разнообразные возможности обучения и карьерные пути
Навыки
- Python
- Java
- C
- C++
- PyTorch
- JAX
- Triton
- vLLM
- Gemini API
- LLM
- distributed systems
- TPU
- GCU
- SLO
- observability