AI Engineer 4 (AI Foundations, LLM Core and Agentic AI)

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

AI-инженер в команду Intelligent Foundations and Experiences (IFX) в Capital One. Проектирование, разработка и поддержка продакшн AI-систем: обучение foundation-моделей, инференс LLM, агентные и мультиагентные воркфлоу, векторный поиск, guardrails, оценка моделей и наблюдаемость.

Задачи

• Работать в кросс-функциональной команде инженеров, research scientists, технических программных менеджеров и продакт-менеджеров над AI-продуктами
• Проектировать, разрабатывать, тестировать, деплоить и поддерживать AI-компоненты: обучение foundation-моделей, инференс LLM, агентные и мультиагентные воркфлоу, similarity search, guardrails, оценка моделей, эксперименты, governance и observability
• Использовать стек Open Source и SaaS AI-технологий: AWS Ultraclusters, Huggingface, VectorDBs, PyTorch и другие
• Разрабатывать и внедрять передовые методы оптимизации foundation-моделей для повышения производительности (масштабируемость, стоимость, latency, throughput) крупномасштабных продакшн AI-систем
• Участвовать в формировании технического видения и долгосрочного роадмапа foundational AI-систем
• Отвечать за сквозную архитектуру сложных AI-систем с обеспечением поддерживаемости, наблюдаемости и этической согласованности
• Определять и поддерживать SLO для надёжности AI: latency, uptime, дрейф производительности моделей
• Совместно с инфраструктурной командой оптимизировать использование GPU/TPU и ускорять пайплайны инференса моделей
• Проводить кросс-функциональные технические ревью новых деплоев AI-систем с соблюдением требований безопасности, data governance и комплаенса
• Менторить Principal и Senior Associates по масштабируемому дизайну, тюнингу производительности и переносу исследований в продакшн

Требования

• Bachelor's degree в Computer Science, AI, Electrical Engineering, Computer Engineering или смежных областях и минимум 4 года опыта разработки AI/ML алгоритмов или технологий, либо Master's degree в тех же областях и минимум 2 года такого опыта
• Минимум 4 года опыта программирования на Python, Go, Scala, CUDA или Java
• Опыт руководства разработкой AI-систем с принятием tradeoff-решений по стоимости, latency, throughput и точности
• 6 лет опыта деплоя масштабируемых и ответственных AI-решений в облачных платформах (AWS, Google Cloud, Azure или эквивалентный приватный облак)
• Опыт проектирования, разработки, поставки и поддержки AI-сервисов
• Опыт разработки AI/ML алгоритмов и технологий (LLM Inference, Similarity Search и VectorDBs, Guardrails, Memory) на Python, C++, C#, Java, CUDA или Golang
• Опыт разработки и применения передовых методов оптимизации training и inference софта для повышения утилизации железа, latency, throughput и снижения стоимости
• Опыт построения агентных AI-систем и агентных воркфлоу
• Страсть к отслеживанию последних AI-исследований и AI-систем и умение обоснованно применять новые техники в продакшне
• Навык проектирования распределённых систем для обучения моделей, оценки и онлайн-инференса в масштабе петабайт
• Опыт определения процессов AI model governance, включая producibility, lineage tracking и автоматизированные расписания retraining
• Подтверждённая способность влиять на архитектурные решения в нескольких AI-продуктовых линиях или платформах

Условия

• Спонсорство рабочей визы для квалифицированных кандидатов
• Годовая зарплата: Cambridge, MA и McLean, VA — $197,300–$225,100; New York, NY и San Jose, CA — $215,200–$245,600
• Право на performance-based incentive compensation, включая cash bonus и/или long term incentives (LTI)
• Комплексный конкурентный пакет льгот: health, financial и другие, поддерживающие общее благополучие
• Capital One — равный работодатель (EOE, включая disability/vet), продвигает workplace без наркотиков

Навыки

• Python
• Go
• Scala
• CUDA
• Java
• C++
• C#
• Golang
• PyTorch
• Huggingface
• VectorDBs
• LLM Inference
• Similarity Search
• Guardrails
• Agentic AI
• Multi-agent workflows
• AWS
• Google Cloud
• Azure
• AWS Ultraclusters
• GPU/TPU optimization
• Distributed systems
• Model evaluation
• Observability
• SLO
• Data governance