Moring AI

AI Observability Engineer

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер по наблюдаемости AI-платформы для крупного финансового предприятия. Отвечает за логи, трейсы, метрики и AI-специфичные сигналы для агентов на Python, работающих на Kubernetes.

Задачи

  • Владеть архитектурой наблюдаемости AI-платформы: логи, трейсы, метрики и AI-специфичные сигналы end-to-end
  • Разворачивать и эксплуатировать LangSmith (и аналогичные инструменты) в окружении заказчика и интегрировать с существующим стеком наблюдаемости
  • Инструментировать платформу и агентов через OpenTelemetry: трейсы рассуждений агентов, вызовов LLM, инструментов и MCP, шагов retrieval
  • Строить пайплайны OTel collector: сбор, обработка, сэмплирование, редактирование чувствительных данных и экспорт в бэкенды
  • Разрабатывать инструментарий вокруг наблюдаемости: SDK-хелперы и декораторы, дашборды по стоимости, задержкам, токенам и качеству, алерты и отчёты для аудита
  • Связывать наблюдаемость с оценкой качества: собирать продакшн-трейсы в eval-датасеты и выявлять регрессии качества
  • Строить учёт стоимости и использования: токены и расходы по модели, команде, фиче и агенту
  • Обеспечивать работу наблюдаемости в ограниченной корпоративной сети: приватные эндпоинты, окружения без egress, self-hosted бэкенды, правила хранения данных
  • Определять SLO платформы и runbook'и для on-call инженеров, улучшать их по реальным инцидентам
  • Обучать команду и инженеров заказчика работе с построенным инструментарием

Требования

  • 6+ лет в software или platform engineering с глубоким фокусом на наблюдаемость
  • Очень сильные основы по логам, трейсам и метрикам: как они создаются, собираются, хранятся, запрашиваются и коррелируются
  • Глубокий опыт OpenTelemetry: SDK, collector, библиотеки инструментирования, семантические конвенции, сэмплирование, проброс контекста
  • Опыт построения или эксплуатации платформ наблюдаемости для cloud-native систем: Kubernetes, микросервисы, Prometheus, Grafana, Loki или Elastic, Jaeger или Tempo, Datadog, Splunk
  • Практический опыт с LangSmith или аналогичным инструментом наблюдаемости LLM (Langfuse, Arize Phoenix, Braintrust, Weights and Biases Weave)
  • Понимание специфики наблюдаемости LLM-приложений: недетерминизм, стоимость токенов, захват промптов и ответов, вызовы инструментов, оценка качества
  • Сильный Python
  • Хорошее знание AWS (EKS, CloudWatch, IAM, networking) и Kubernetes
  • Опыт on-call для систем, которые инструментировал
  • Опыт в крупных предприятиях, особенно регулируемых (финансы, страхование, здравоохранение) — плюс
  • Умение объяснить не-инженеру, что показывает трейс и почему это важно

Условия

  • Локация: Raleigh, NC (офис)
  • Полная занятость, individual contributor
  • Зарплата: 60-90K + опционы
  • Командировки до 10% к заказчикам
  • Требуется право на работу в США (GC/EAD/US Citizen)

Навыки

  • OpenTelemetry
  • LangSmith
  • Langfuse
  • Arize Phoenix
  • Braintrust
  • Weights and Biases Weave
  • Python
  • Kubernetes
  • AWS
  • EKS
  • CloudWatch
  • IAM
  • Prometheus
  • Grafana
  • Loki
  • Elastic
  • Jaeger
  • Tempo
  • Datadog
  • Splunk
  • LLM
  • MCP

Похожие вакансии

AI Observability Engineer
Moring AISeniorNewarkОфис
60,000 – 90,000 USD в год
15 нояб.
Wind River Cloud Platform Support Engineer
DFBooking Careers-CAREBRIDGEJOBSSeniorNew YorkОфис
15 нояб.
Senior Platform Operations Engineer - Cambridge MA - Security Clearance Required
Akamai TechnologiesSeniorОфис
100,700 – 181,300 USD в год
30 окт.
Lead Infrastructure Engineer - VMware, Red Hat, Kubernetes, Terraform
JPMorganChaseLeadPlanoОфис
13 нояб.
Senior Manager, Software Engineering - AI Developer Productivity (Dev Agents and SRE AI)
SamsaraLeadУдалённо
162,400 – 290,000 USD в год
14 нояб.
Software Update & Deployment Engineer III - Project Sunrise – Orbital Data Centers
Blue OriginMiddleDenverОфисРелокация
150,931 – 230,513 USD в год
13 нояб.
Senior Software Engineer, Release Engineering
Agility RoboticsSeniorFremontГибридРелокация
175,000 – 274,000 USD в год
13 нояб.
Senior Software Engineer - Kubernetes/RHEL - HYBRID
General DynamicsSeniorManassasГибрид
156,905 – 174,134 USD в год
13 нояб.
Senior Staff Software Engineer
NVIDIALeadГибрид
200,000 – 322,000 USD в год
13 нояб.
Sr Software Engineer, Infrastructure Services
AppleSeniorSan FranciscoОфис
13 нояб.