Software Engineer, AI Systems & Performance

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в Cotidal для построения программного стека под нагрузки обучения, RL и инференса на ускорителях (TPU). Работа с интеграцией ML-фреймворков, производительностью и надёжностью систем в продакшене.

Задачи

• Проектировать и строить интеграции фреймворков и системы распределённого исполнения для обучения, RL и инференса на ускорителях Cotidal
• Расширять ML-фреймворки и библиотеки, устранять проблемы совместимости и компиляции, поддерживать новые архитектуры моделей
• Ставить цели по производительности, строить репрезентативные бенчмарки и выявлять наиболее impactful изменения
• Улучшать код моделей, компиляторы, рантаймы и ядра для эффективности обучения, скорости RL-итераций и пропускной способности инференса
• Отвечать за надёжность систем при масштабировании: валидация, регрессионные тесты, observability, чекпоинтинг и восстановление
• Превращать продакшн-опыт в переиспользуемые возможности и upstream-улучшения

Требования

• Опыт разработки ПО для обучения, инференса или ускоренных вычислений
• Сильные основы software engineering и понимание влияния compute, памяти и коммуникаций на производительность систем
• Умение превращать открытые задачи в технический план и доводить работу до надёжной системы
• Опыт работы напрямую с пользователями и командой, ясная аргументация решений
• Глубина в одной из областей и готовность работать по всему стеку

Условия

• Конкурентная зарплата и опционы
• Спонсорство рабочей визы и помощь в оформлении
• Медицинская, стоматологическая и офтальмологическая страховка
• Неограниченный PTO
• Поддержка релокации при необходимости
• Работа в офисе в Palo Alto, напрямую с основателями

Навыки

• PyTorch
• JAX
• XLA
• GPU
• TPU
• Trainium
• verl
• Pallas
• Triton
• CUDA
• vLLM
• SGLang
• distributed training
• model parallelism
• quantization