Generalist AI
Software Engineer: ML Infra
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Инженер ML-инфраструктуры в компанию, разрабатывающую embodied foundation models для роботов. Отвечает за GPU-кластеры для распределённого обучения и инференса, а также за оркестрацию инференс-флотов роботов.
Задачи
- Владеть GPU-кластерами компании
- Обеспечивать простоту использования и максимальную загрузку GPU для исследователей
- Оптимизировать загрузку ML-данных, транспорт и хранение в распределённых средах с высокой загрузкой
- Оркестрировать инференс-флоты роботов
Требования
- Опыт управления большими GPU-кластерами для масштабного долгосрочного распределённого обучения или инференса
- Глубокий опыт со Slurm или Kubernetes для оркестрации ML-нагрузок
- Опыт построения высоконагруженных ML data loader'ов и систем подготовки данных
- Глубокое понимание всех уровней ML-стека: железа, хранения и сетей
- Опыт в экосистеме Nvidia GPU
Навыки
- Slurm
- Kubernetes
- Nvidia GPU
- ML data loaders
- distributed training
- inference
- storage
- networking