AI Engineer 4 (MLX, Agentic AI, Gen AI platform Services)

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

AI-инженер в команду Intelligent Foundations and Experiences (IFX) в Capital One. Проектирование, разработка и поддержка масштабных AI-систем: обучение foundation-моделей, инференс LLM, агентные и мультиагентные воркфлоу, векторный поиск, guardrails, оценка моделей и наблюдаемость.

Задачи

• Работать в кросс-функциональной команде инженеров, исследователей, технических программных менеджеров и продакт-менеджеров над AI-продуктами
• Проектировать, разрабатывать, тестировать, разворачивать и поддерживать AI-компоненты: обучение foundation-моделей, инференс больших языковых моделей, агенты и мультиагентные воркфлоу, similarity search, guardrails, оценка моделей, эксперименты, governance и observability
• Использовать стек Open Source и SaaS AI-технологий: AWS Ultraclusters, Huggingface, VectorDBs, PyTorch и другие
• Разрабатывать и внедрять передовые методы оптимизации foundation-моделей для повышения производительности (масштабируемость, стоимость, задержка, пропускная способность) крупномасштабных production AI-систем
• Участвовать в формировании технического видения и долгосрочного роадмапа foundational AI-систем
• Отвечать за сквозную архитектуру сложных AI-систем: поддерживаемость, наблюдаемость и этическая согласованность
• Определять и поддерживать SLO для надёжности AI, включая задержку, uptime и дрейф производительности моделей
• Совместно с инфраструктурной командой оптимизировать использование GPU/TPU и ускорять пайплайны инференса моделей
• Проводить кросс-функциональные технические ревью новых внедрений AI-систем с соблюдением требований безопасности, data governance и комплаенса
• Менторить Principal и Senior специалистов по масштабируемому дизайну, тюнингу производительности и переносу исследований в production

Требования

• Bachelor's degree в Computer Science, AI, Electrical Engineering, Computer Engineering или смежных областях и минимум 4 года опыта разработки AI и ML алгоритмов или технологий, либо Master's degree в тех же областях и минимум 2 года такого опыта
• Минимум 4 года опыта программирования на Python, Go, Scala, CUDA или Java
• Опыт руководства разработкой AI-систем с принятием tradeoff-решений по стоимости, задержке, пропускной способности и точности (желательно)
• 6 лет опыта развёртывания масштабируемых и ответственных AI-решений в облачных платформах (AWS, Google Cloud, Azure или эквивалентный private cloud) (желательно)
• Опыт проектирования, разработки, поставки и поддержки AI-сервисов (желательно)
• Опыт разработки AI и ML алгоритмов или технологий (LLM Inference, Similarity Search и VectorDBs, Guardrails, Memory) на Python, C++, C#, Java, CUDA или Golang (желательно)
• Опыт разработки и применения передовых методов оптимизации ПО для обучения и инференса с целью улучшения использования железа, задержки, пропускной способности и стоимости (желательно)
• Опыт построения агентных AI-систем и агентных воркфлоу (желательно)
• Страсть к отслеживанию последних исследований в области AI и AI-систем и умение обоснованно применять новые методы в production (желательно)
• Навык проектирования распределённых систем для обучения моделей, оценки и онлайн-инференса в масштабе петабайт (желательно)
• Опыт определения процессов AI model governance, включая воспроизводимость, отслеживание lineage и автоматизированные графики дообучения (желательно)
• Продемонстрированная способность влиять на архитектурные решения в нескольких AI-продуктовых линиях или платформах (желательно)

Условия

• Полная занятость, годовая зарплата в зависимости от локации: McLean, VA и Cambridge, MA — $197,300–$225,100; New York, NY, San Francisco, CA и San Jose, CA — $215,200–$245,600
• Возможна спонсорская поддержка для получения разрешения на работу
• Право на performance-based incentive compensation, включая cash bonus и/или долгосрочные стимулы (LTI)
• Комплексный конкурентный пакет льгот: здоровье, финансы и общее благополучие
• Capital One — равноправный работодатель (EOE, включая disability/vet), продвигает рабочую среду без наркотиков

Навыки

• Python
• Go
• Scala
• CUDA
• Java
• C++
• C#
• Golang
• AWS
• Google Cloud
• Azure
• Huggingface
• VectorDBs
• PyTorch
• LLM Inference
• Similarity Search
• Guardrails
• Agentic AI
• Multi-agent workflows
• Foundation model training
• Model evaluation
• Distributed systems
• GPU/TPU optimization
• SLO
• Data governance
• Observability