Senior Software Engineer, Cloud Infrastructure

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Senior-инженер в команду облачной инфраструктуры Beacon AI: построение AWS-фундамента и LLM-платформы для авиационного AI-продукта. Проектирование, внедрение и эксплуатация масштабируемых, надёжных и безопасных сервисов.

Задачи

• Проектировать, разворачивать и поддерживать инфраструктуру AWS с помощью IaC (AWS CDK или Terraform)
• Строить CI/CD и тестирование для приложений, инфраструктуры и ML-пайплайнов (GitHub Actions, CodeBuild, CodePipeline)
• Обеспечивать безопасные сети: VPC, PrivateLink, VPC endpoints; управлять IAM, KMS, Secrets Manager и аудит-логированием
• Разворачивать и эксплуатировать эндпоинты моделей на AWS Bedrock и/или SageMaker, выбирать ECS/EKS, Lambda или Batch для инференса
• Строить сервисы, вызывающие LLM через чистые API со стримингом, батчингом и стратегиями backoff
• Реализовывать выполнение промптов и инструментов с LangChain или аналогами, включая agent tools и function calling
• Проектировать пайплайны чанкинга и эмбеддингов для документов, временных рядов и мультимедиа; оркестрировать через Step Functions или Airflow
• Эксплуатировать векторный поиск на OpenSearch Serverless, Aurora PostgreSQL с pgvector или Pinecone, настраивать recall, latency и стоимость
• Создавать offline/online eval-харнессы для промптов, ретриверов и цепочек, отслеживать качество, latency и регрессии
• Инструментировать телеметрию моделей и приложений через CloudWatch и OpenTelemetry, строить дашборды по токенам и затратам
• Внедрять guardrails, rate limits, fallback и маршрутизацию провайдеров для устойчивости
• Реализовывать детекцию и редактирование PII, контроль доступа, контент-фильтры и human-in-the-loop
• Строить пайплайны приёма и обработки структурированных, неструктурированных и мультимедийных данных с Glue и Lake Formation
• Оптимизировать перемещение и хранение данных в S3, Glacier и tiered storage, использовать Athena для ad-hoc анализа
• Управлять инфраструктурой для edge-устройств: безопасный обмен сообщениями, идентификация, OTA-обновления
• Помогать продуктовым и прикладным командам интегрировать retrieval-сервисы, эмбеддинги и LLM-цепочки в пользовательские фичи
• Тюнить качество retrieval, использование контекстного окна и кэширование (Redis, Bedrock Knowledge Bases)
• Оптимизировать инференс: выбор моделей, квантизация, выбор GPU/CPU инстансов, автоскейлинг

Требования

• Опыт сквозного владения: от дизайна до продакшена, включая on-call и непрерывные улучшения
• Опыт эксплуатации LLM-приложений в продакшене: RAG, версионирование промптов, оркестрация цепочек на LangChain или аналогах
• Глубокое знание AWS: VPC, IAM, KMS, CloudWatch, S3, ECS/EKS, Lambda, Step Functions, Bedrock, SageMaker
• Навыки data engineering: пайплайны приёма и трансформации на Python, Glue, Athena, event-driven паттерны (EventBridge, SQS)
• Security mindset: least privilege, управление секретами, сетевая изоляция, комплаенс для чувствительных данных
• Опыт количественных evals, A/B-тестирования и live-метрик
• Умение объяснять tradeoffs и выстраивать взаимодействие с product, security и application engineering
• Только U.S. Persons (граждане США, обладатели Green Card, постоянные резиденты или лица со статусом беженца/убежища); спонсорство визы не предоставляется
• Вся работа должна выполняться на территории США

Условия

• Гибридный формат в San Carlos, CA: 3+ дня в неделю в офисе, остальные дни — удалённо
• Медицинская страховка: 100% премии сотрудника покрывается, 25% для иждивенцев
• 3 недели PTO плюс 13+ оплачиваемых праздников
• 401(k) без текущего employer match, с планами улучшения
• Небольшие сфокусированные команды без тяжёлых процессов и силосов

Навыки

• AWS
• AWS CDK
• Terraform
• GitHub Actions
• CodeBuild
• CodePipeline
• VPC
• PrivateLink
• IAM
• KMS
• Secrets Manager
• AWS Bedrock
• SageMaker
• ECS
• EKS
• Lambda
• Batch
• LangChain
• Step Functions
• Airflow
• OpenSearch Serverless
• Aurora PostgreSQL
• pgvector
• Pinecone
• CloudWatch
• OpenTelemetry
• Glue
• Lake Formation
• S3
• Glacier
• Athena
• Redis
• Bedrock Knowledge Bases
• EventBridge
• SQS
• Python
• DynamoDB
• Triton Inference Server
• TensorRT-LLM