Software Engineer - AI Inference for Science

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер-программист в Argonne Leadership Computing Facility для направления AI for Science: масштабируемый инференс AI-моделей на HPC-системах и AI-ускорителях. Работа в группе Data Services and Workflows над интеграцией AI-инференса в научные workflow.

Задачи

• Проектировать и разрабатывать решения для AI-инференса, интегрированного в научные workflow
• Обеспечивать программный доступ к моделям через стандартные интерфейсы (например, OpenAI API)
• Организовывать пакетную отправку больших объёмов промптов для параллельной обработки
• Обеспечивать эффективное исполнение на HPC-системах ALCF и тестовых AI-стендах
• Адаптировать и разворачивать новые AI-модели и функциональность по мере развития направления
• Взаимодействовать с научными прикладными командами, академией и индустрией
• Создавать, поддерживать и развивать высококачественное ПО
• Работать с доменными моделями и ПО и вносить в них вклад

Требования

• Понимание использования, развёртывания AI-моделей и их требований к памяти и вычислениям
• Опыт работы с одним или несколькими фреймворками хостинга AI-моделей, например vLLM или SGLang
• Опыт разработки REST API на Python с использованием фреймворков вроде FastAPI
• Обширный опыт программирования на Python и/или C/C++
• Умение создавать, поддерживать и сопровождать высококачественное ПО
• Опыт работы с системами контроля версий, например git
• Способность работать в команде в динамичной среде
• Эффективные навыки письменной и устной коммуникации
• Для уровня RD2: бакалавр и 5+ лет опыта, магистр и 3+ года опыта, PhD или эквивалент
• Для уровня RD3: бакалавр и 8+ лет опыта, магистр и 5+ лет опыта, PhD и 4+ года опыта или эквивалент

Условия

• Гибридный формат: регулярно несколько дней в офисе и несколько удалённо, обычно более 60% времени удалённо
• Полная занятость, постоянный контракт (Regular)
• Диапазон оплаты для уровня RD2: $94,486 - $147,399
• Диапазон оплаты для уровня RD3: $116,250 - $181,350
• Комплексный пакет льгот
• Найм возможен на одном из двух уровней (RD2 или RD3)
• Предложение о работе обусловлено проверкой биографии и получением государственного допуска

Навыки

• AI inference
• LLM
• vLLM
• SGLang
• REST API
• Python
• FastAPI
• C/C++
• git
• HPC
• Slurm
• PBS
• GPU
• distributed inference
• quantization
• model parallelism
• Prometheus
• Grafana
• OLAP
• data warehousing
• OpenAI API