AI Engineer 4 (AI Foundations: LLM Customization, Finetuning, Reinforcement Learning)

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

AI-инженер в команду Intelligent Foundations and Experiences (IFX) в Capital One. Проектирование, разработка и поддержка AI-систем: обучение foundation-моделей, инференс LLM, агентные workflow, векторный поиск, оценка и мониторинг моделей.

Задачи

• Работать в кросс-функциональной команде инженеров, исследователей, технических программных менеджеров и продакт-менеджеров над AI-продуктами
• Проектировать, разрабатывать, тестировать, разворачивать и поддерживать AI-компоненты: обучение foundation-моделей, инференс LLM, агенты и мультиагентные workflow, similarity search, guardrails, оценка моделей, эксперименты, governance и observability
• Использовать стек Open Source и SaaS AI-технологий: AWS Ultraclusters, Huggingface, VectorDBs, PyTorch и другие
• Разрабатывать и внедрять state-of-the-art методы оптимизации foundation-моделей для повышения производительности (масштабируемость, стоимость, latency, throughput) крупномасштабных production AI-систем
• Участвовать в формировании технического видения и долгосрочного roadmap фундаментальных AI-систем
• Отвечать за сквозную архитектуру сложных AI-систем: поддерживаемость, observability и этическая согласованность
• Определять и поддерживать SLO для надёжности AI, включая latency, uptime и дрейф производительности моделей
• Совместно с инфраструктурной командой оптимизировать использование GPU/TPU и ускорять пайплайны инференса моделей
• Проводить кросс-функциональные технические ревью новых внедрений AI-систем с соблюдением требований безопасности, data governance и комплаенса
• Менторить Principal и Senior специалистов по масштабируемому дизайну, тюнингу производительности и переносу исследований в production

Требования

• Bachelor's degree в Computer Science, AI, Electrical Engineering, Computer Engineering или смежных областях и минимум 4 года опыта разработки AI и ML алгоритмов или технологий, либо Master's degree в тех же областях и минимум 2 года опыта
• Минимум 4 года опыта программирования на Python, Go, Scala, CUDA или Java
• Опыт руководства разработкой AI-систем с принятием tradeoff-решений по стоимости, latency, throughput и точности
• 6 лет опыта развёртывания масштабируемых и ответственных AI-решений на облачных платформах (AWS, Google Cloud, Azure или эквивалентный private cloud)
• Опыт проектирования, разработки, поставки и поддержки AI-сервисов
• Опыт разработки AI и ML алгоритмов или технологий (LLM Inference, Similarity Search и VectorDBs, Guardrails, Memory) на Python, C++, C#, Java, CUDA или Golang
• Опыт разработки и применения state-of-the-art методов оптимизации обучения и инференса для повышения утилизации железа, снижения latency, роста throughput и снижения стоимости
• Опыт построения агентных AI-систем и агентных workflow
• Страсть к отслеживанию последних исследований в AI и AI-системах и умение обоснованно применять новые методы в production
• Навыки проектирования распределённых систем для обучения моделей, оценки и онлайн-инференса в масштабе петабайт
• Опыт определения процессов AI model governance, включая producibility, lineage tracking и автоматизированные расписания retraining
• Подтверждённая способность влиять на архитектурные решения в нескольких AI-продуктовых линиях или платформах

Условия

• Спонсорство рабочей визы для квалифицированных кандидатов
• Годовая зарплата: Cambridge, MA и McLean, VA — $197,300–$225,100; New York, NY, San Francisco, CA и San Jose, CA — $215,200–$245,600
• Возможна performance-based incentive compensation, включая cash bonus и/или долгосрочные стимулы (LTI)
• Комплексный пакет льгот: здоровье, финансы и другие бенефиты
• Capital One — равноправный работодатель (EOE, включая disability/vet)

Навыки

• Python
• Go
• Scala
• CUDA
• Java
• C++
• C#
• Golang
• LLM Inference
• Similarity Search
• VectorDBs
• Guardrails
• Memory
• PyTorch
• Huggingface
• AWS
• Google Cloud
• Azure
• AWS Ultraclusters
• GPU
• TPU
• distributed systems
• agentic AI
• model governance
• SLO