AI Engineer 5 (AI Foundations: LLM Customization, Finetuning, Reinforcement Learning)

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

AI-инженер в команду Intelligent Foundations and Experiences (IFX) в Capital One. Занимается обучением и оптимизацией фундаментальных моделей, LLM-инференсом, агентными workflow и масштабированием production AI-систем.

Задачи

• Работать в кросс-функциональной команде инженеров, research scientists, технических программных менеджеров и продакт-менеджеров над AI-продуктами
• Проектировать, разрабатывать, тестировать, деплоить и поддерживать AI-компоненты: обучение фундаментальных моделей, инференс LLM, агенты и мультиагентные workflow, similarity search, guardrails, оценка моделей, эксперименты, governance и observability
• Использовать стек Open Source и SaaS AI-технологий: AWS Ultraclusters, Huggingface, VectorDBs, PyTorch и другие
• Разрабатывать и внедрять state-of-the-art методы оптимизации фундаментальных моделей для повышения производительности (масштабируемость, стоимость, latency, throughput) крупномасштабных production AI-систем
• Участвовать в формировании технического видения и долгосрочного roadmap фундаментальных AI-систем
• Проектировать, реализовывать и оптимизировать пайплайны мультимодельной оркестрации, объединяя LLM, vector search и доменные модели в единые системы
• Проводить и возглавлять ревью cost-performance governance по AI-системам, отслеживая утилизацию GPU, throughput моделей и эффективность инференса по стоимости
• Возглавлять design councils или design review boards для обеспечения технической согласованности и соответствия стандартам AI-инжиниринга
• Менторить AI-инженеров уровня Principal и Manager, развивая кросс-доменное обучение и повышая техническую зрелость организации

Требования

• Bachelor's degree в Computer Science, AI, Electrical Engineering, Computer Engineering или смежных областях и минимум 6 лет опыта разработки AI и ML алгоритмов или технологий, либо Master's degree в тех же областях и минимум 4 года такого опыта
• Минимум 6 лет опыта программирования на Python, Go, Scala, CUDA или Java
• Опыт руководства разработкой AI-систем с принятием tradeoff-решений по стоимости, latency, throughput и точности
• 7 лет опыта деплоя масштабируемых и ответственных AI-решений на облачных платформах (AWS, Google Cloud, Azure или эквивалентный private cloud)
• Опыт проектирования, разработки, поставки и поддержки сложных AI-систем
• Опыт разработки AI и ML алгоритмов или технологий (LLM Inference, Similarity Search и VectorDBs, Guardrails, Memory) на Python, C++, C#, Java, CUDA или Golang
• Опыт разработки и применения state-of-the-art техник оптимизации training и inference софта для повышения утилизации железа, снижения latency, роста throughput и снижения стоимости
• Опыт построения агентных AI-систем и агентных workflow
• Страсть к отслеживанию последних AI-исследований и AI-систем и умение обоснованно применять новые техники в production
• Отличные коммуникативные и презентационные навыки, умение объяснять сложные AI-концепции коллегам
• Опыт архитектуры и интеграции гетерогенных AI-систем (rule-based, retrieval-augmented и генеративных компонентов) в единые production-пайплайны
• Опыт определения и внедрения стандартов этичного AI-деплоя, включая explainability, fairness и human-in-the-loop процессы
• Подтверждённая способность балансировать производительность модели и операционные затраты через динамические стратегии инференса и сжатие моделей
• Опыт подбора оптимального размера моделей, количества инстансов и типов железа под требования (длина контекста, входные и выходные токены)

Условия

• Годовой оклад: Cambridge, MA и McLean, VA — $229,900–$262,400; New York, NY, San Francisco, CA и San Jose, CA — $250,800–$286,200
• Возможна спонсорская поддержка для нового квалифицированного кандидата на разрешение на работу
• Право на performance-based incentive compensation, включая cash bonus и/или long term incentives (LTI)
• Комплексный конкурентный пакет льгот: здоровье, финансы и другие аспекты благополучия
• Capital One — равный работодатель (EOE, включая disability/vet), продвигает workplace без наркотиков

Навыки

• Python
• Go
• Scala
• CUDA
• Java
• C++
• C#
• Golang
• LLM
• LLM Inference
• Fine-tuning
• Reinforcement Learning
• Foundation Models
• Agents
• Multi-agent workflows
• Similarity Search
• VectorDBs
• Guardrails
• Model Evaluation
• PyTorch
• Huggingface
• AWS
• AWS Ultraclusters
• Google Cloud
• Azure
• GPU
• Model Compression
• RAG
• Observability