Apleona
Senior AI Platform Engineer - LLMOps (w/m/d)
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Инженер платформы ИИ в Apleona: отвечает за контролируемый выпуск LLM-приложений в продакшн — автоматические оценки качества, версионирование, канареечные релизы и сквозной мониторинг. Строит общие платформенные сервисы для всех ИИ-решений компании.
Задачи
- Отвечать за релизную единицу ИИ-приложения: промпты, версия модели, retrieval-индекс, инструменты, guardrails и политики
- Строить harness для оценок: эталонные кейсы, метрики и quality gates
- Настраивать eval-gated CI/CD, версионирование и поэтапные раскатки с canary и rollback
- Обеспечивать end-to-end observability: трейсинг, задержки и затраты
- Разрабатывать и эксплуатировать общие платформенные сервисы, включая дежурства совместно с IT-платформенной командой
Требования
- Минимум 5 лет разработки ПО, из них опыт работы с приложениями на языковых моделях в продакшене
- Самостоятельно выстраивал автоматические тесты и процессы релиза (CI/CD), а не только использовал их
- Настраивал мониторинг живых приложений (ошибки, время отклика, затраты)
- Backend-разработка на TypeScript/Node.js и Python
- Практика в крупном облаке (предпочтительно Azure, AWS или Google Cloud) и близость к DevOps/SRE
- Свободный английский, немецкий — плюс
- Nice to have: дизайн guardrails и безопасности (prompt injection, content safety, red teaming), FinOps для затрат на модели (token-бюджеты, маршрутизация моделей), Azure AI Foundry Evaluation, инструменты promptfoo, Ragas, Langfuse, OpenTelemetry, Terraform, GitHub Actions
- Плюс: эксплуатация ИИ с требованиями аудита и комплаенса (EU AI Act, ISO 27001), платформенная эксплуатация с тысячами пользователей в концерне
Условия
- Бессрочный трудовой договор
- Преимущества по внутреннему тарифному соглашению
- 30 дней отпуска, выходные на Рождество и Новый год
- Возможность мобильной работы
- Семейная кадровая политика
- Гибкие модели рабочего времени
- Эксклюзивные предложения для сотрудников
- Программы обучения APLEONA
- Опция Jobrad-лизинга
- Программа рекомендаций сотрудников
Навыки
- LLMOps
- TypeScript
- Node.js
- Python
- Azure
- AWS
- Google Cloud
- CI/CD
- Canary releases
- Observability
- Tracing
- Guardrails
- Prompt Injection
- Content Safety
- Red Teaming
- FinOps
- Azure AI Foundry Evaluation
- promptfoo
- Ragas
- Langfuse
- OpenTelemetry
- Terraform
- GitHub Actions
- DevOps
- SRE