Moring AI
AI Observability Engineer
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Инженер по наблюдаемости AI-платформы для крупного финансового предприятия. Отвечает за логи, трейсы, метрики и AI-специфичные сигналы для агентов на Python, работающих на Kubernetes.
Задачи
- Владеть архитектурой наблюдаемости AI-платформы: логи, трейсы, метрики и AI-специфичные сигналы.
- Разворачивать и эксплуатировать LangSmith (и аналогичные инструменты) в окружении заказчика и интегрировать с существующим стеком наблюдаемости.
- Инструментировать платформу и агентов через OpenTelemetry: трейсы рассуждений агентов, вызовов LLM, инструментов, MCP и шагов retrieval.
- Строить пайплайны OTel collector: сбор, обработка, сэмплирование, редактирование чувствительных данных и экспорт в бэкенды.
- Разрабатывать инструментарий вокруг наблюдаемости: SDK-хелперы и декораторы, дашборды по стоимости, задержкам, токенам и качеству, алерты и отчёты для аудита.
- Связывать наблюдаемость с оценкой качества: собирать продакшн-трейсы в eval-датасеты и выявлять регрессии качества.
- Строить учёт стоимости и использования: токены и расходы по модели, команде, фиче и агенту.
- Обеспечивать работу наблюдаемости в ограниченной корпоративной сети: приватные эндпоинты, окружения без egress, self-hosted бэкенды, правила хранения данных.
- Определять SLO платформы и runbook'и для on-call инженеров, улучшать их по реальным инцидентам.
- Обучать команду и инженеров заказчика работе с построенным инструментарием.
Требования
- 6+ лет в software или platform engineering с глубоким фокусом на наблюдаемость.
- Очень сильные основы по логам, трейсам и метрикам: как они создаются, собираются, хранятся, запрашиваются и коррелируются.
- Глубокий опыт OpenTelemetry: SDK, collector, библиотеки инструментирования, семантические конвенции, сэмплирование, propagation контекста.
- Опыт построения или эксплуатации платформ наблюдаемости для cloud-native систем: Kubernetes, микросервисы, Prometheus, Grafana, Loki или Elastic, Jaeger или Tempo, Datadog, Splunk.
- Практический опыт с LangSmith или аналогичным инструментом наблюдаемости LLM (Langfuse, Arize Phoenix, Braintrust, Weights and Biases Weave).
- Понимание специфики наблюдаемости LLM-приложений: недетерминизм, стоимость токенов, захват промптов и ответов, вызовы инструментов, оценка.
- Сильный Python.
- Хорошее знание AWS (EKS, CloudWatch, IAM, networking) и Kubernetes.
- Опыт on-call для систем, которые инструментировал.
- Опыт работы в крупных предприятиях, особенно регулируемых (финансы, страхование, здравоохранение) — плюс.
- Умение объяснить не-инженеру, что показывает трейс и почему это важно.
- Право на работу в США (GC/EAD/US Citizen).
Условия
- Локация: Dallas, TX (on-site).
- Опыт: 3-6 лет.
- Тип: Full-time individual contributor.
- Зарплата: 60-90K + Stock option.
- Командировки: до 10% к клиентам.
- Ранняя стадия, небольшая команда, прибыльная компания.
Навыки
- OpenTelemetry
- LangSmith
- Langfuse
- Arize Phoenix
- Braintrust
- Weights and Biases Weave
- Python
- Kubernetes
- AWS
- EKS
- CloudWatch
- IAM
- Prometheus
- Grafana
- Loki
- Elastic
- Jaeger
- Tempo
- Datadog
- Splunk
- LLM
- MCP