AI Engineer - Guardrails and Observability

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер по эксплуатации GenAI-платформ: guardrails и observability для LLM- и RAG-приложений в on-premises OpenShift. Отвечает за развёртывание вендорских решений, мониторинг качества и безопасности моделей, оценку и калибровку.

Задачи

• Разрабатывать, развёртывать и эксплуатировать вендорские приложения в on-premises OpenShift
• Создавать и поддерживать API и интеграции, связывающие платформы guardrails и observability с корпоративными GenAI-приложениями
• Мониторить производительность, безопасность, latency, throughput и метрики guardrails
• Внедрять и поддерживать процессы оценки моделей, включая аннотацию и калибровку
• Использовать фреймворки оркестрации, например LangChain, для guardrail-проверок, управления промптами и скоринга
• Создавать дашборды observability и системы алертинга
• Диагностировать продакшн-инциденты и оптимизировать производительность, масштабируемость и отказоустойчивость
• Участвовать в формировании стратегий оценки AI и guardrails для агентных workflow
• Руководить инженерами и кросс-функциональными инициативами, развивать инженерные практики

Требования

• Бакалавр или магистр в Computer Science, Data Science, MIS или смежной области либо эквивалентный опыт
• 10+ лет опыта в software engineering, создания и масштабирования продакшн-приложений
• Сильный опыт разработки на Python, включая распространённые ML- и data-библиотеки
• Практический опыт работы с OpenShift или Kubernetes в продакшне
• Опыт развёртывания и поддержки LLM- или RAG-приложений
• Понимание AI-рисков, поведения агентов и фреймворков governance
• Опыт интеграции сторонних платформ и поддержки вендорских приложений
• Опыт работы с OpenAI APIs, LangChain и фреймворками GenAI-разработки
• Знание оптимизации производительности инференса и масштабируемости
• Опыт внедрения AI guardrails, observability и процессов оценки моделей
• Опыт работы в Agile
• Подтверждённая способность вести технические инициативы и влиять на стейкхолдеров
• Сильные аналитические навыки, решение проблем и коммуникация

Условия

• Офисная культура с чёткими ожиданиями по присутствию и гибкостью в зависимости от роли и бизнес-задач
• Первая смена (США)
• 40 часов в неделю
• Конкурентные и гибкие бенефиты, поддержка физического, эмоционального и финансового благополучия
• Возможности обучения, роста и карьерного развития

Навыки

• Python
• OpenShift
• Kubernetes
• LLM
• RAG
• OpenAI APIs
• LangChain
• Galileo
• LangSmith
• Splunk
• LlamaIndex
• Haystack
• GenAI
• ML
• Data Management
• DevOps
• Automation
• Test Engineering