AI Engineer 5 (MLX, Agentic AI, Gen AI platform Services)

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер AI в команде Intelligent Foundations and Experiences (IFX) в Capital One. Разработка и масштабирование production-систем на базе foundation-моделей, LLM-инференса, агентных workflow и векторного поиска.

Задачи

• Работать в кросс-функциональной команде инженеров, research scientists, технических программных менеджеров и продакт-менеджеров над AI-продуктами
• Проектировать, разрабатывать, тестировать, деплоить и поддерживать AI-компоненты: обучение foundation-моделей, инференс LLM, агенты и мультиагентные workflow, similarity search, guardrails, оценка моделей, эксперименты, governance и observability
• Использовать стек Open Source и SaaS AI-технологий: AWS Ultraclusters, Huggingface, VectorDBs, PyTorch и др.
• Разрабатывать и внедрять передовые методы оптимизации foundation-моделей для повышения производительности, масштабируемости, снижения стоимости и задержек production-систем
• Участвовать в формировании технического видения и долгосрочного roadmap foundational AI-систем
• Проектировать, реализовывать и оптимизировать пайплайны мультимодельной оркестрации с интеграцией LLM, векторного поиска и доменных моделей
• Проводить governance-ревью по стоимости и производительности AI-систем, отслеживать утилизацию GPU, пропускную способность моделей и эффективность стоимости инференса
• Руководить design-ревью и советами по дизайну для обеспечения технической согласованности и соответствия стандартам AI-инжиниринга
• Менторить Principal и Manager-level AI-инженеров, развивать кросс-доменное обучение и техническую зрелость организации

Требования

• Степень бакалавра в Computer Science, AI, Electrical Engineering, Computer Engineering или смежной области и минимум 6 лет опыта разработки AI/ML-алгоритмов или технологий, либо магистерская степень и минимум 4 года опыта
• Минимум 6 лет опыта программирования на Python, Go, Scala, CUDA или Java
• Опыт руководства разработкой AI-систем с принятием tradeoff-решений по стоимости, задержке, пропускной способности и точности (желательно)
• 7 лет опыта деплоя масштабируемых и ответственных AI-решений в облаках (AWS, Google Cloud, Azure или эквивалентный private cloud) (желательно)
• Опыт проектирования, разработки, поставки и поддержки сложных AI-систем (желательно)
• Опыт разработки AI/ML-алгоритмов (LLM Inference, Similarity Search и VectorDBs, Guardrails, Memory) на Python, C++, C#, Java, CUDA или Golang (желательно)
• Опыт оптимизации обучения и инференса для повышения утилизации железа, снижения задержек и стоимости (желательно)
• Опыт построения агентных AI-систем и агентных workflow (желательно)
• Опыт архитектуры и интеграции гетерогенных AI-систем (rule-based, retrieval-augmented, generative) в единые production-пайплайны (желательно)
• Опыт определения и внедрения стандартов этичного AI: explainability, fairness, human-in-the-loop (желательно)
• Умение балансировать производительность модели и операционные затраты через динамические стратегии инференса и компрессию моделей (желательно)
• Опыт подбора размера моделей, количества инстансов и типов железа под требования (длина контекста, токены на входе/выходе) (желательно)
• Отличные коммуникационные и презентационные навыки, умение объяснять сложные AI-концепции коллегам (желательно)

Условия

• Полная занятость, годовая зарплата: McLean, VA и Cambridge, MA — $229,900–$262,400; New York, NY, San Francisco, CA и San Jose, CA — $250,800–$286,200
• Возможна спонсорская поддержка для получения разрешения на работу
• Право на performance-based incentive compensation, включая cash-бонусы и/или долгосрочные стимулы (LTI)
• Комплексный пакет льгот: здоровье, финансы и благополучие
• Capital One — равноправный работодатель (EOE, включая disability/vet)

Навыки

• Python
• Go
• Scala
• CUDA
• Java
• C++
• C#
• Golang
• LLM inference
• Agentic AI
• Multi-agent workflows
• Similarity search
• VectorDBs
• Guardrails
• Model evaluation
• PyTorch
• Huggingface
• AWS
• Google Cloud
• Azure
• GPU utilization
• Model compression
• RAG
• Observability