Moring AI

AI Observability Engineer

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер по наблюдаемости AI-платформы для крупного финансового предприятия. Отвечает за логи, трейсы, метрики и AI-специфичные сигналы для агентов на Python, работающих на Kubernetes.

Задачи

  • Владеть архитектурой наблюдаемости AI-платформы: логи, трейсы, метрики и AI-специфичные сигналы.
  • Разворачивать и эксплуатировать LangSmith (и аналогичные инструменты) в окружении заказчика и интегрировать с существующим стеком наблюдаемости.
  • Инструментировать платформу и агентов через OpenTelemetry: трейсы рассуждений агентов, вызовов LLM, инструментов, MCP и шагов retrieval.
  • Строить пайплайны OTel collector: сбор, обработка, сэмплирование, редактирование чувствительных данных и экспорт в бэкенды.
  • Разрабатывать инструментарий вокруг наблюдаемости: SDK-хелперы и декораторы, дашборды по стоимости, задержкам, токенам и качеству, алерты и отчёты для аудита.
  • Связывать наблюдаемость с оценкой качества: собирать продакшн-трейсы в eval-датасеты и выявлять регрессии качества.
  • Строить учёт стоимости и использования: токены и расходы по модели, команде, фиче и агенту.
  • Обеспечивать работу наблюдаемости в ограниченной корпоративной сети: приватные эндпоинты, окружения без egress, self-hosted бэкенды, правила хранения данных.
  • Определять SLO платформы и runbook'и для on-call инженеров, улучшать их по реальным инцидентам.
  • Обучать команду и инженеров заказчика работе с построенным инструментарием.

Требования

  • 6+ лет в software или platform engineering с глубоким фокусом на наблюдаемость.
  • Очень сильные основы по логам, трейсам и метрикам: как они создаются, собираются, хранятся, запрашиваются и коррелируются.
  • Глубокий опыт OpenTelemetry: SDK, collector, библиотеки инструментирования, семантические конвенции, сэмплирование, propagation контекста.
  • Опыт построения или эксплуатации платформ наблюдаемости для cloud-native систем: Kubernetes, микросервисы, Prometheus, Grafana, Loki или Elastic, Jaeger или Tempo, Datadog, Splunk.
  • Практический опыт с LangSmith или аналогичным инструментом наблюдаемости LLM (Langfuse, Arize Phoenix, Braintrust, Weights and Biases Weave).
  • Понимание специфики наблюдаемости LLM-приложений: недетерминизм, стоимость токенов, захват промптов и ответов, вызовы инструментов, оценка.
  • Сильный Python.
  • Хорошее знание AWS (EKS, CloudWatch, IAM, networking) и Kubernetes.
  • Опыт on-call для систем, которые инструментировал.
  • Опыт работы в крупных предприятиях, особенно регулируемых (финансы, страхование, здравоохранение) — плюс.
  • Умение объяснить не-инженеру, что показывает трейс и почему это важно.
  • Право на работу в США (GC/EAD/US Citizen).

Условия

  • Локация: Dallas, TX (on-site).
  • Опыт: 3-6 лет.
  • Тип: Full-time individual contributor.
  • Зарплата: 60-90K + Stock option.
  • Командировки: до 10% к клиентам.
  • Ранняя стадия, небольшая команда, прибыльная компания.

Навыки

  • OpenTelemetry
  • LangSmith
  • Langfuse
  • Arize Phoenix
  • Braintrust
  • Weights and Biases Weave
  • Python
  • Kubernetes
  • AWS
  • EKS
  • CloudWatch
  • IAM
  • Prometheus
  • Grafana
  • Loki
  • Elastic
  • Jaeger
  • Tempo
  • Datadog
  • Splunk
  • LLM
  • MCP

Похожие вакансии

AI Observability Engineer
Moring AISeniorRaleighОфис
60,000 – 90,000 USD в год
15 нояб.
AI Observability Engineer
Moring AISeniorNewarkОфис
60,000 – 90,000 USD в год
15 нояб.
Wind River Cloud Platform Support Engineer
DFBooking Careers-CAREBRIDGEJOBSSeniorNew YorkОфис
15 нояб.
Senior Platform Operations Engineer - Cambridge MA - Security Clearance Required
Akamai TechnologiesSeniorОфис
100,700 – 181,300 USD в год
30 окт.
Lead Infrastructure Engineer - VMware, Red Hat, Kubernetes, Terraform
JPMorganChaseLeadPlanoОфис
13 нояб.
Senior Manager, Software Engineering - AI Developer Productivity (Dev Agents and SRE AI)
SamsaraLeadУдалённо
162,400 – 290,000 USD в год
14 нояб.
Senior Software Engineer, Site Reliability
JobgetherSeniorУдалённо
131,325 – 189,525 USD в год
13 нояб.
Staff Software Engineer (SRE)
JobgetherLeadУдалённо
200,000 – 250,000 USD в год
13 нояб.
Software Update & Deployment Engineer III - Project Sunrise – Orbital Data Centers
Blue OriginMiddleDenverОфисРелокация
150,931 – 230,513 USD в год
13 нояб.
Senior Software Engineer, Release Engineering
Agility RoboticsSeniorFremontГибридРелокация
175,000 – 274,000 USD в год
13 нояб.