HP
Senior Software Engineer, AI Memory and Workload
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Инженер системного уровня для исследования и оптимизации исполнения AI-нагрузок на клиентских платформах HP. Работа с рантаймами инференса, архитектурой памяти и аппаратно-программной кооптимизацией, а не с обучением моделей.
Задачи
- Техническая оценка и инкубация новых AI-технологий и программных компонентов партнёров и рынка
- Разработка прототипов и оптимизация рантаймов инференса, управления памятью, планирования, кэширования
- Анализ распределения AI-нагрузок по CPU, GPU, NPU, RAM, VRAM и хранилищу, включая KV cache
- Поиск узких мест исполнения AI и возможностей оптимизации, замеры латентности и пропускной способности
- Оценка влияния параллельных AI и не-AI нагрузок на отзывчивость, стабильность и энергопотребление
- Исследование приоритизации нагрузок и QoS по ресурсам CPU, GPU и NPU
- Формирование требований к системной архитектуре на основе профилирования AI-нагрузок
- Совместная работа с партнёрами по кремнию, ОС и экосистеме над proof-of-concept
- Разработка инструментов телеметрии и бенчмарков для оценки производительности, питания и памяти
Требования
- Высшее образование в области Computer Science, Computer Engineering, Software Engineering или смежной дисциплине
- Опыт работы 7–10 лет, предпочтительно в системном программировании, анализе производительности, управлении памятью или клиентской архитектуре
- Понимание механики исполнения AI-моделей и опыт работы с рантаймами инференса (llama.cpp, ONNX Runtime, PyTorch и аналоги)
- Экспертиза в управлении памятью, распределении VRAM/RAM, поведении KV cache и анализе bandwidth
- Навыки анализа производительности систем и поиска узких мест, инструменты профилирования
- Понимание аппаратно-программной кооптимизации и взаимодействия CPU/GPU/NPU
- Продвинутое владение Python и C/C++ для низкоуровневой работы и телеметрии
- Глубокое знание Linux и Windows, управления процессами и планирования ресурсов
- Опыт быстрого прототипирования и оценки ранних технологий
Условия
- Медицинская, стоматологическая и офтальмологическая страховка
- Страхование жизни и от несчастных случаев
- Программа помощи сотрудникам
- Flexible spending account
- Оплачиваемый отпуск по уходу за ребёнком 4–12 недель в зависимости от стажа
- 11 оплачиваемых праздничных дней
- Гибкий оплачиваемый отпуск и больничные
Навыки
- Python
- C++
- C
- llama.cpp
- ONNX Runtime
- PyTorch
- Linux
- Windows
- KV cache
- CPU
- GPU
- NPU
- VRAM
- RAM
- профилирование производительности
- телеметрия
- бенчмарки