Software Engineer AI/ML Systems - USA

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер-разработчик AI/ML-систем в Cogniify. Отвечает за полный жизненный цикл AI-приложений: разработку, оценку, деплой и масштабирование open-source моделей на распределённой GPU-инфраструктуре, а также за автоматизацию тестирования и безопасные CI/CD-пайплайны.

Задачи

• Проектировать и масштабировать AI-инфраструктуру: деплой и масштабирование open-source моделей с помощью распределённых оркестраторов (Kubernetes, Ray или Slurm) для отказоустойчивых AI-нагрузок на многонодовых кластерах
• Проектировать и оценивать AI-системы: проводить эксперименты, настраивать промпты, оценивать и деплоить production-модели и AI-агентов с гибкими механизмами бенчмаркинга и быстрой замены моделей
• Проводить анализ ошибок и пробелов: запускать комплексные бенчмарки моделей, выполнять глубокий анализ ошибок и пробелов в выходах моделей, строить аналитические дашборды для стейкхолдеров
• Строить автоматизированное тестирование: разрабатывать обширные автоматизированные тест-сьюты для end-to-end кода приложения, повышая покрытие как обычного ПО, так и стохастических AI-выходов
• Автоматизировать DevSecOps: автоматизировать сканирование уязвимостей в GitLab Merge Requests и внедрять быстрые пайплайны устранения найденных проблем
• Работать самостоятельно: вести фичи от идеи до продакшена, включая архитектурные решения, синхронизацию публичных/приватных репозиториев и взаимодействие с open-source сообществом

Требования

• 6+ лет профессионального опыта написания production-grade асинхронного Python с фокусом на слабосвязанную, чистую архитектуру систем и паттерны проектирования
• Практический опыт деплоя, мониторинга и масштабирования моделей в продакшене с использованием Kubernetes, Ray или Slurm, включая конфигурации многонодовых кластеров
• Сильное понимание управления памятью GPU и инфраструктурной оптимизации для высоконагруженных AI-инференсов с низкой задержкой
• Глубокий опыт работы с LangChain, библиотеками Hugging Face, MLOps, vLLM и SGLang, а также экспертиза в prompt engineering, автоматизированном бенчмаркинге моделей и систематических оценках LLM
• Владение анализом данных на Python (pandas, NumPy или аналоги), умение извлекать инсайты из результатов оценки и понятно доносить их технической и нетехнической аудитории
• Продвинутое знание GitLab-пайплайнов, включая автоматические тестовые джобы и сканеры уязвимостей, интегрированные в MR-воркфлоу
• Экспертное знание Python-фреймворков для тестирования (PyTest), библиотек мокирования и подходов к автоматической генерации тестов для AI-нагрузок
• Высокая квалификация в продвинутых Git-воркфлоу: стратегии rebase, криптографическая подпись коммитов, сложное зеркалирование публичных/приватных репозиториев
• Степень бакалавра или магистра в Computer Science, Engineering или смежной области (или эквивалентный опыт)

Условия

• Неограниченный PTO
• Очень щедрый родительский отпуск, значительно выше отраслевых стандартов
• Предпринимательская культура, где риск и выход за рамки — повседневная практика
• Открытая коммуникация с руководством и лидерами компании
• Небольшие динамичные команды — огромное влияние
• Медицинская, стоматологическая и офтальмологическая страховка для сотрудников
• Страхование от инвалидности и жизни
• Поддержка психического здоровья и благополучия
• Ежегодная бонусная программа
• Программа покупки акций работодателя (ESPP)
• Ежегодные тимбилдинги
• Возможности менторства и спонсорства
• Ресурсы и поддержка для менеджеров

Навыки

• Python
• Kubernetes
• Ray
• Slurm
• GPU
• LangChain
• Hugging Face
• MLOps
• vLLM
• SGLang
• Prompt Engineering
• LLM
• pandas
• NumPy
• GitLab CI/CD
• PyTest
• Git
• DevSecOps