Caliberly
AI Data Engineer
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
AI Data Engineer для проектирования и поддержки data-пайплайнов, обеспечивающих работу AI/ML-решений. Работа в тесной связке с data scientists, ML-инженерами и разработчиками.
Задачи
- Проектировать, строить и сопровождать масштабируемые и эффективные data-пайплайны для AI/ML-систем
- Взаимодействовать с AI/ML-командами для понимания требований к данным и поставки качественных датасетов
- Оптимизировать хранение и извлечение данных для low-latency AI-нагрузок
- Реализовывать ETL/ELT-процессы с использованием современных data engineering инструментов и облачных платформ
- Обеспечивать качество, консистентность, governance и безопасность данных
- Интегрировать структурированные и неструктурированные данные из различных источников (API, базы данных, стриминговые платформы)
- Работать с крупномасштабными распределёнными системами и big data технологиями (Spark, Hadoop, Kafka)
- Мониторить производительность и надёжность пайплайнов, автоматизировать обработку ошибок и восстановление
- Участвовать в разработке и деплое AI/ML-моделей в продакшн
- Документировать процессы работы с данными, схемы и инфраструктуру
Требования
- Бакалавр или магистр в Computer Science, Data Engineering или смежной области
- 5 лет опыта в data engineering, желательно с опытом работы с AI/ML-процессами
- Владение языками программирования: Python, Scala или Java
- Опыт работы с облачными платформами AWS, Azure или GCP (S3, Redshift, BigQuery, Databricks)
- Практический опыт с инструментами оркестрации данных (Apache Airflow, Prefect)
- Владение SQL и NoSQL базами данных
- Знание data lakehouse архитектур и MLOps-пайплайнов (желательно)
- Опыт с контейнеризацией (Docker) и CI/CD (преимущество)
- Опыт real-time обработки данных и stream analytics (Kafka, Flink) — предпочтительно
- Опыт с GenAI или LLM-приложениями — предпочтительно
- Сертификации по облачным или data engineering платформам (AWS Certified Data Analytics, GCP Data Engineer) — предпочтительно
- Сильные навыки решения проблем и аналитическое мышление
- Отличные коммуникативные навыки с техническими и нетехническими стейкхолдерами
- Внимательность к деталям и чувство ответственности
Условия
- Конкурентная зарплата с бонусами по результатам работы
- Проживание, компенсация питания и помощь с рабочей визой
- Щедрые отпуска и новогодние бонусы
- Топовое оборудование: MacBook и iPhone
- Динамичная инклюзивная культура, способствующая росту
- Дважды в год компенсация расходов на поездки домой
- Медицинская страховка и авиабилеты (без семейных льгот)
Навыки
- Python
- Scala
- Java
- AWS
- Azure
- GCP
- S3
- Redshift
- BigQuery
- Databricks
- Apache Airflow
- Prefect
- SQL
- NoSQL
- Spark
- Hadoop
- Kafka
- TensorFlow
- PyTorch
- MLflow
- Docker
- CI/CD
- Flink
- MLOps