Systems Software Engineer

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер системного ПО для production-платформы инференса ML-моделей. Работа над низкоуровневой производительностью, GPU-ядрами и вычислительными кластерами в небольшой команде с высокой автономностью.

Задачи

• Обеспечивать быструю поддержку новых open-source моделей с низкой задержкой и высокой пропускной способностью
• Улучшать стек инференса: батчинг запросов, кэширование, стратегии декодирования, квантизация
• Писать и оптимизировать низкоуровневые GPU-ядра для разных производителей оборудования
• Проектировать, разворачивать и эксплуатировать вычислительные кластеры из разнородного железа
• Запускать production-инференс на распределённом парке с фокусом на надёжность, наблюдаемость и экономичность
• Общаться с клиентами и участвовать в определении направления своей работы

Требования

• Глубокое понимание архитектуры компьютеров, иерархии памяти и внутренностей ОС за пределами прикладного кодирования
• Опыт backend, инфраструктуры или системной разработки в известной технологической компании или раннем стартапе
• Интерес к использованию AI-агентов и инструментов кодирования в работе
• Степень по computer science с сильной программы
• Навыки коммуникации и эмоциональный интеллект (10–20% роли — работа с клиентами)
• Готовность работать в офисе пять дней в неделю

Условия

• Базовая зарплата: USD 200,000–300,000 в год
• Опционы (equity)
• Медицинская, стоматологическая и офтальмологическая страховка
• Питание
• Неограниченный оплачиваемый отпуск
• Отпуск по уходу за ребёнком
• Офис в San Francisco, 5 дней в неделю, полная занятость

Навыки

• GPU programming
• CUDA
• Machine Learning inference
• Quantization
• Request batching
• Caching
• Operating systems internals
• Computer architecture
• Cluster deployment
• Observability