Staff Software Engineer, Cloud Infrastructure

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Staff-инженер по облачной инфраструктуре в авиационной AI-компании. Отвечает за построение и эксплуатацию AWS-инфраструктуры и LLM-платформы, включая RAG-системы, векторный поиск и пайплайны данных.

Задачи

• Проектировать, разворачивать и поддерживать инфраструктуру AWS с помощью IaC (AWS CDK, Terraform)
• Строить CI/CD и тестирование для приложений, инфраструктуры и ML-пайплайнов (GitHub Actions, CodeBuild, CodePipeline)
• Обеспечивать безопасные сети (VPC, PrivateLink, VPC endpoints), управлять IAM, KMS, Secrets Manager и аудит-логированием
• Разворачивать и эксплуатировать эндпоинты моделей на AWS Bedrock и/или SageMaker, выбирать ECS/EKS, Lambda или Batch для инференса
• Строить сервисы, вызывающие LLM через чистые API со стримингом, батчингом и стратегиями повторов
• Реализовывать выполнение промптов и инструментов с LangChain, включая агентские инструменты и function calling
• Проектировать пайплайны чанкинга и эмбеддингов для документов, временных рядов и мультимедиа (Step Functions, Airflow)
• Эксплуатировать векторный поиск (OpenSearch Serverless, Aurora PostgreSQL с pgvector, Pinecone) и настраивать recall, latency и стоимость
• Создавать офлайн- и онлайн-харнессы оценки промптов, ретриверов и цепочек
• Инструментировать телеметрию моделей и приложений (CloudWatch, OpenTelemetry), строить дашборды по токенам и стоимости
• Внедрять guardrails, rate limits, fallback и маршрутизацию провайдеров
• Реализовывать детекцию и редактирование PII, контроль доступа, контент-фильтры и human-in-the-loop
• Строить пайплайны приёма и обработки структурированных, неструктурированных и мультимедийных данных (Glue, Lake Formation)
• Оптимизировать перемещение и хранение данных в S3, Glacier и tiered storage, использовать Athena для ad-hoc анализа
• Управлять инфраструктурой для edge-устройств: безопасный обмен сообщениями, идентификация, OTA-обновления
• Помогать продуктовым и прикладным командам интегрировать retrieval-сервисы, эмбеддинги и LLM-цепочки в пользовательские фичи
• Оптимизировать качество retrieval, использование контекстного окна и кэширование (Redis, Bedrock Knowledge Bases)
• Оптимизировать инференс: выбор моделей, квантизация, выбор GPU/CPU инстансов, автоскейлинг

Требования

• Опыт сквозного владения: от дизайна до продакшена, включая on-call и постоянные улучшения
• Опыт эксплуатации LLM-приложений в продакшене: RAG, версионирование промптов, оркестрация цепочек (LangChain или аналог)
• Глубокое знание AWS: VPC, IAM, KMS, CloudWatch, S3, ECS/EKS, Lambda, Step Functions, Bedrock, SageMaker
• Навыки data engineering: пайплайны приёма и трансформации на Python, Glue, Athena, event-driven паттерны (EventBridge, SQS)
• Понимание безопасности: least privilege, управление секретами, сетевая изоляция, комплаенс для чувствительных данных
• Опыт количественных evals, A/B-тестирования и live-метрик
• Умение объяснять компромиссы и выстраивать взаимодействие с product, security и application engineering
• Только U.S. Persons (граждане США, обладатели Green Card, постоянные резиденты или лица со статусом беженца/убежища); спонсорство визы недоступно
• Вся работа выполняется на территории США

Условия

• Гибридный формат в San Carlos, CA: 3+ дня в неделю в офисе, остальные дни — удалённо
• Медицинская страховка: 100% премии сотрудника, 25% за иждивенцев
• 3 недели PTO плюс 13+ оплачиваемых праздников
• Предлагается 401(k) (без текущего match)

Навыки

• AWS
• AWS CDK
• Terraform
• GitHub Actions
• CodeBuild
• CodePipeline
• VPC
• PrivateLink
• IAM
• KMS
• Secrets Manager
• AWS Bedrock
• SageMaker
• ECS
• EKS
• Lambda
• Batch
• LangChain
• Step Functions
• Airflow
• OpenSearch Serverless
• Aurora PostgreSQL
• pgvector
• Pinecone
• CloudWatch
• OpenTelemetry
• Glue
• Lake Formation
• S3
• Glacier
• Athena
• Redis
• Bedrock Knowledge Bases
• Python
• EventBridge
• SQS
• Triton Inference Server
• TensorRT-LLM