(Senior) AI Platform Engineer (m/f/d)

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер AI-платформы в консалтинговую компанию evoila. Проектирование и эксплуатация AI/ML-платформ на Kubernetes с GPU-инфраструктурой, MLOps/LLMOps и сервингом моделей для клиентских проектов.

Задачи

• Планирование, построение и эксплуатация высокодоступных AI/ML-платформ и сервисов на базе Kubernetes в on-premises, гибридных и облачных средах
• Проектирование и реализация масштабируемых GPU-инфраструктур в кластерах Kubernetes, включая GPU-планирование и разделение (Kueue, KAI-Scheduler, Run:ai, NVIDIA MIG/Time-Slicing)
• Построение и эксплуатация сервисов model serving и инференса (vLLM, NVIDIA Triton, KServe, NVIDIA NIM, Ray) для классических ML-моделей и LLM
• Разработка и поддержка MLOps/LLMOps-процессов для продуктивных GenAI-сервисов, включая guardrails и политики, оценку, регрессионные тесты, мониторинг стоимости и качества
• Обеспечение процессов fine-tuning и повторного обучения (LoRA, непрерывное переобучение) на платформе
• Мониторинг, диагностика и оптимизация производительности AI-платформ (загрузка GPU, задержка инференса, пропускная способность)
• Консультирование клиентов по best practices, AI-Governance, безопасности данных и защите данных в контексте AI-платформ на Kubernetes
• Тесное взаимодействие с командами Data Science, Data Platform и разработки для бесшовной интеграции AI-решений

Требования

• Не менее 3 лет опыта эксплуатации и оптимизации платформ и сервисов at scale в Kubernetes (on-premise или облако)
• Глубокие знания архитектуры и эксплуатации масштабируемых решений на Kubernetes, желательно с GPU-нагрузками
• Навыки программирования на Python, желательно также Golang или Java
• Опыт работы хотя бы с одним фреймворком model serving (vLLM, NVIDIA Triton, KServe) и опыт с MLOps-инструментами (MLflow, Kubeflow, ClearML)
• Опыт работы с Infrastructure-as-Code (Ansible, Terraform) и CI/CD и GitOps-инструментами (Argo CD, Flux)
• Очень хорошие коммуникативные навыки на немецком и английском языках, опыт консультирования клиентов
• Для senior-роли: не менее 5 лет релевантного опыта в платформенной инженерии
• Для senior-роли: ответственность за архитектуру AI-платформ end-to-end и принятие технологических решений
• Для senior-роли: техническое лидерство в клиентских проектах и менторинг коллег
• Желательно: опыт с облачными AI-сервисами (AWS SageMaker/Bedrock, Azure ML/Azure OpenAI/Azure AI Foundry) и их интеграцией с Kubernetes
• Желательно: знания архитектур на базе LLM (RAG-пайплайны, векторные базы данных, embedding-сервисы, agentic AI, MCP)
• Желательно: понимание системных основ LLM-сервинга (rate limiting, token streaming, load balancing) и концепций LLM (reasoning, tool calling, prompt templates)
• Желательно: опыт с llm-d или Kubernetes Inference Gateway
• Желательно: знания по защите AI-платформ (TLS, RBAC, Network Policies) и основам AI-Governance (EU AI Act)
• Желательно: сертификации (CKA/CKAD, NVIDIA)
• Готовность к occasional поездкам в регион DACH

Условия

• Корпоративная пенсионная программа
• Командная культура с регулярными тимбилдингами
• Целенаправленное развитие профессиональных навыков
• Программа Corporate Benefits
• Гибкий график работы
• Современное рабочее место с актуальным оборудованием
• Возможность удалённой работы

Навыки

• Kubernetes
• GPU
• Kueue
• KAI-Scheduler
• Run:ai
• NVIDIA MIG
• Time-Slicing
• vLLM
• NVIDIA Triton
• KServe
• NVIDIA NIM
• Ray
• MLOps
• LLMOps
• GenAI
• LoRA
• Python
• Golang
• Java
• MLflow
• Kubeflow
• ClearML
• Ansible
• Terraform
• CI/CD
• GitOps
• Argo CD
• Flux
• AWS SageMaker
• AWS Bedrock
• Azure ML
• Azure OpenAI
• Azure AI Foundry
• RAG
• векторные базы данных
• Embedding
• Agentic AI
• MCP
• llm-d
• Kubernetes Inference Gateway
• TLS
• RBAC
• Network Policies
• EU AI Act