Staff Software Engineer - AI Compute, Together Cloud

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер-архитектор в команду Together Cloud, отвечающую за GPU-облако и IaaS-платформу. Проектирование и разработка виртуализации GPU и сетей, глобальной control plane и систем отказоустойчивости для дата-центров с сотнями тысяч GPU.

Задачи

• Владеть стеком виртуализации GPU и сетей: гипервизор, ядро и SDN для производительной, портируемой и изолированной работы GPU и сетей дата-центра на разнородном железе
• Владеть IaaS-слоем внутри дата-центра: архитектура и roadmap сервисов, Kubernetes-операторов и библиотек для управления compute, storage и сетями — VM, параллельные ФС, VPC, партиции InfiniBand; руководство развёртыванием нового дата-центра Vera Rubin с тысячами GPU от bring-up железа до клиентского API
• Проектировать планировщик GPU и глобальную management plane: распределённая control plane для on-demand и reserved кластеров в десятках дата-центров, включая системы масштабирования лимитов и автоматического подключения новых мощностей
• Архитектура мониторинга и автоматизированного восстановления для отказоустойчивости: стратегия автоматического обнаружения, изоляции и восстановления отказавших узлов, чтобы распределённое претрейн и крупномасштабный инференс продолжали работать при отказах железа
• Задавать техническое направление между командами: вести design review, разрешать кросс-архитектурные разногласия, снимать кросс-командные зависимости и риски интеграции, определять стандарты для других инженеров
• Развивать команду: менторить senior и junior инженеров, углублять экспертизу в виртуализации, сетях дата-центров и GPU-инфраструктуре, помогать поднимать планку найма в Together Cloud
• Задавать инженерную планку: создавать тестовые фреймворки, инструменты и документацию, делать системы надёжными и удобными для других команд, развивать открытую платформу Together AI

Требования

• 7+ лет профессиональной разработки ПО, экспертный уровень как минимум в одном backend-языке (желательно Golang), написание производительного, хорошо покрытого тестами production-кода
• Опыт владения архитектурой крупных распределённых систем от нуля до production в масштабе, включая необратимые архитектурные решения
• Глубокий опыт построения и эксплуатации глобально распределённых высокопроизводительных микросервисных архитектур в одном или нескольких облаках (AWS, Azure, GCP)
• Экспертные системные знания в compute, сетях и storage: конкурентность, управление памятью, производительный I/O, масштаб на глобальном уровне
• Подтверждённое техническое лидерство за пределами собственных коммитов: менторинг senior-инженеров, ведение design review, выстраивание согласия между командами без прямого подчинения
• Отличные коммуникативные и дипломатические навыки: умение писать design-документы, снимающие споры, и эффективно работать с техническими и нетехническими стейкхолдерами
• Опыт построения и эксплуатации надёжных клиентских production-систем в масштабе, владение инфраструктурной автоматизацией (Terraform, Ansible), observability (Prometheus, Grafana) и CI/CD (GitHub Actions, ArgoCD)

Условия

• Конкурентная компенсация, опционы стартапа, медицинская страховка и другие бенефиты
• Гибкость в части удалённой работы
• Базовая зарплата для США: $260,000 - $300,000 + equity + бенефиты
• Диапазон зарплат определяется локацией, уровнем и ролью; индивидуальная компенсация — опытом, навыками и знаниями

Навыки

• Golang
• Kubernetes
• Kubernetes operators
• QEMU/KVM
• cloud-hypervisor
• VFIO
• virtio
• PCIE passthrough
• Kubevirt
• SR-IOV
• VLAN
• VXLAN
• VPN
• VPC
• OVS/OVN
• Cluster API
• InfiniBand
• DPU
• SmartNIC
• NCCL
• CUDA
• AWS
• Azure
• GCP
• Terraform
• Ansible
• Prometheus
• Grafana
• GitHub Actions
• ArgoCD
• Slurm
• Linux kernel
• SDN