Capital One
AI Engineer 4
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
AI-инженер в команду Intelligent Foundations and Experiences (IFX) в Capital One. Проектирование, разработка и поддержка продакшн-систем на базе foundation-моделей и LLM, включая агентные workflow, векторный поиск и оптимизацию инференса.
Задачи
- Проектировать, разрабатывать, тестировать, деплоить и поддерживать AI-компоненты: обучение foundation-моделей, инференс LLM, агенты и мультиагентные workflow, similarity search, guardrails, оценка моделей, эксперименты, governance и observability
- Использовать стек Open Source и SaaS AI-технологий: AWS Ultraclusters, Huggingface, VectorDBs, PyTorch и другие
- Разрабатывать и внедрять state-of-the-art методы оптимизации foundation-моделей для повышения масштабируемости, снижения стоимости, латентности и роста пропускной способности продакшн-систем
- Участвовать в формировании технического видения и долгосрочного roadmap фундаментальных AI-систем
- Отвечать за сквозную архитектуру сложных AI-систем: поддерживаемость, observability и этическая согласованность
- Определять и поддерживать SLO для надёжности AI, включая латентность, uptime и дрейф качества моделей
- Совместно с инфраструктурной командой оптимизировать использование GPU/TPU и ускорять пайплайны инференса моделей
- Проводить кросс-функциональные технические ревью новых AI-деплоев с проверкой безопасности, data governance и соответствия требованиям
- Менторить Principal и Senior специалистов по масштабируемому дизайну, тюнингу производительности и переносу исследований в продакшн
Требования
- Bachelor's degree в Computer Science, AI, Electrical Engineering, Computer Engineering или смежных областях и минимум 4 года опыта разработки AI/ML алгоритмов или технологий, либо Master's degree в тех же областях и минимум 2 года такого опыта
- Минимум 4 года опыта программирования на Python, Go, Scala, CUDA или Java
- Опыт руководства разработкой AI-систем с принятием tradeoff-решений по стоимости, латентности, пропускной способности и точности (желательно)
- 6 лет опыта деплоя масштабируемых и ответственных AI-решений в облаках (AWS, Google Cloud, Azure или эквивалентный private cloud) (желательно)
- Опыт проектирования, разработки, поставки и поддержки AI-сервисов (желательно)
- Опыт разработки AI/ML алгоритмов и технологий (LLM Inference, Similarity Search и VectorDBs, Guardrails, Memory) на Python, C++, C#, Java, CUDA или Golang (желательно)
- Опыт разработки и применения передовых методов оптимизации обучения и инференса для повышения утилизации железа, снижения латентности, роста throughput и снижения стоимости (желательно)
- Опыт построения агентных AI-систем и агентных workflow (желательно)
- Проектирование распределённых систем для обучения, оценки и онлайн-инференса моделей в масштабе петабайт (желательно)
- Опыт определения процессов AI model governance, включая воспроизводимость, отслеживание lineage и автоматизированные графики retraining (желательно)
- Подтверждённая способность влиять на архитектурные решения в нескольких AI-продуктовых линиях или платформах (желательно)
Условия
- Полная занятость, годовая зарплата: Cambridge, MA и McLean, VA — $197,300–$225,100; New York, NY и San Jose, CA — $215,200–$245,600
- Возможна спонсорская поддержка для получения разрешения на работу
- Право на performance-based incentive compensation, включая cash bonus и/или long term incentives (LTI)
- Комплексный пакет льгот: health, financial и другие бенефиты
- Capital One — равный работодатель (EOE, включая disability/vet), продвигает workplace без наркотиков
Навыки
- Python
- Go
- Scala
- CUDA
- Java
- C++
- C#
- Golang
- PyTorch
- Huggingface
- VectorDBs
- LLM Inference
- Similarity Search
- Guardrails
- AWS
- Google Cloud
- Azure
- GPU
- TPU
- distributed systems
- agentic AI