Software Engineer, Compute Foundations

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду Compute Foundations, которая строит ПО для управления GPU-инфраструктурой OpenAI. Задача — превращать разнородные парки машин в надёжные вычислительные ресурсы для обучения и инференса моделей.

Задачи

• Проектировать, разрабатывать и эксплуатировать контроллеры на базе Kubernetes и распределённые сервисы для координации инфраструктуры между площадками, изоляции сбоев и масштабирования под рост GPU-мощностей
• Определять API и модели ресурсов, позволяющие клиентам запрашивать и отслеживать операции жизненного цикла через единые интерфейсы поверх разных аппаратных платформ и провайдеров
• Строить сервисы провижининга и конфигурации, координирующие сетевую загрузку, интерфейсы управления оборудованием и развёртывание прошивок, образов ОС, драйверов и конфигурации хостов
• Развивать управление жизненным циклом: обнаружение, аллокация, провижининг, обновления, обслуживание, восстановление и вывод из эксплуатации с интеграцией с системами health и валидации
• Проектировать надёжную реконсиляцию и восстановление при конкурентных изменениях, прерванных операциях и частичных отказах, со staged rollout, ограничивающим влияние на узлы, стойки и кластеры
• Улучшать пропускную способность control plane, задержку API и время достижения целевого состояния инфраструктуры с учётом лимитов площадок и API провайдеров
• Строить интеграции, подключающие новые площадки и поколения GPU-оборудования к платформе, в партнёрстве с командами hardware, networking и data-center

Требования

• Сильные основы software engineering и опыт проектирования, реализации и владения production распределёнными системами или инфраструктурными сервисами
• Опыт разработки инфраструктурных систем с использованием Kubernetes API и reconciliation для управления ресурсами
• Понимание пути bare-metal узла от включения питания до сконфигурированной, готовой к нагрузке системы, с глубиной в одной или нескольких областях: PXE, DHCP/DNS, BMC, прошивки, Linux, драйверы, образы, configuration management
• Умение проектировать надёжные API и асинхронные workflow с учётом конкурентности, консистентности, идемпотентности и отказов на границах сервисов и провайдеров
• Способность диагностировать проблемы надёжности и производительности на стыке сервисов, ОС и машин, превращая production-данные в устойчивые улучшения ПО
• Эффективная работа на стыке инженерных специальностей и ясная коммуникация поведения систем и технических компромиссов

Условия

• Бонус: опыт построения инфраструктурных control plane, координирующих операции между несколькими площадками или регионами
• Бонус: работа с GPU или HPC-инфраструктурой, включая топологию и общие зависимости между машинами, стойками и кластерами
• Бонус: интеграция нескольких аппаратных платформ или инфраструктурных провайдеров в общий сервис или модель ресурсов
• OpenAI — equal opportunity employer, не допускающая дискриминации по признаку расы, религии, цвета кожи, национального происхождения, пола, сексуальной ориентации, возраста, ветеранского статуса, инвалидности, генетической информации и иных защищённых законом характеристик
• Предоставляются разумные accommodations для кандидатов с инвалидностью

Навыки

• Kubernetes
• Distributed Systems
• API Design
• Reconciliation
• PXE
• DHCP
• DNS
• BMC
• Firmware
• Linux
• Drivers
• Configuration Management
• GPU
• HPC
• Bare-metal
• Networking