Software Engineer

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду Foundational Model Service, которая предоставляет командам Cisco доступ к языковым и embedding-моделям. Задача — поддерживать и развивать платформу инференса моделей на Kubernetes, автоматизировать валидацию деплоев и мониторинг.

Задачи

• Поддерживать работу платформы FMS и упрощать её эксплуатацию
• Поддерживать онбординг и релизы моделей
• Участвовать в дежурствах (on call)
• Автоматизировать валидацию, гейтящую каждый деплой
• Развивать мониторинг состояния сервиса для команды и клиентов
• Применять агентные решения для автоматического обнаружения и устранения проблем
• Разрабатывать ПО в соответствии с принципами Cisco Design Thinking, практиками безопасного кодирования и защиты приватности
• Работать совместно с дизайном, продукт-менеджментом и другими инженерными командами
• Создавать техническую документацию и документацию для конечных пользователей
• Отлаживать проблемы платформы в разработке и продакшене

Требования

• Bachelor’s degree in Computer Science, Information Systems или смежной области и 3 года опыта; master’s degree и 1 год опыта; PhD; или эквивалентный практический опыт
• Опыт разработки и эксплуатации продакшен-сервисов на Kubernetes и Linux, включая работу с GPU-инфраструктурой для AI
• Практический опыт сервинга моделей с vLLM, NVIDIA NIM, Triton или аналогичным inference-рантаймом, включая построение вспомогательных сервисов
• Опыт ведения технической работы, менторства инженеров, документирования систем и поддержки критичных сервисов в режиме on call

Условия

• Зарплатная вилка $128,600.00 – $184,900.00 (для локаций США/Канада), для отдельных штатов диапазоны выше
• Медицинская, стоматологическая и офтальмологическая страховка, 401(k) с вкладом Cisco, оплачиваемый родительский отпуск, страхование жизни и инвалидности
• Возможность получения грантов restricted stock units
• Оплачиваемые отпуска, больничные, праздничные дни, день рождения, year-end shutdown и дни на волонтёрство
• Годовые бонусы для не-sales ролей

Навыки

• Kubernetes
• Linux
• GPU
• vLLM
• NVIDIA NIM
• Triton
• LLM
• NVIDIA CUDA
• AMD ROCm
• RAG
• fine-tuning
• distributed inference
• KV cache
• Python