Certivity
Full-Stack Engineer | Web Crawling (m/f/d)
Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.
Full-stack инженер в команду крупномасштабного веб-краулинга и извлечения данных. Отвечает за краулеры end-to-end: обнаружение, устойчивый сбор данных в условиях анти-бот защиты и превращение HTML/PDF в корректные структурированные данные.
Задачи
- Разрабатывать и масштабировать краулеры для динамических крупных сайтов и поддерживать их работоспособность при изменениях сайтов
- Противодействовать анти-бот мерам: TLS/браузерный фингерпринтинг, прокси, стратегии сессий и rate-limit, детекция изменений
- Превращать сырой HTML и PDF в корректные структурированные данные, включая извлечение с помощью LLM
- Проектировать и эксплуатировать пайплайны для загрузки, дедупликации, версионирования и обогащения данных
- Разворачивать и эксплуатировать контейнеризованные приложения в облаке с CI/CD
- Участвовать в формировании технической архитектуры и инженерной культуры
Требования
- 3+ года профессиональной разработки ПО (5+ для senior-трека)
- Сильный Python — реальный production-код, async
- Практический опыт веб-скрапинга в масштабе, включая работу с анти-бот защитой и отказами крупномасштабного сбора данных
- Внимание к корректности данных
- Docker и хотя бы одно крупное облако (GCP, Azure или AWS), Git, уверенная работа в CLI
- Умение ясно излагать мысли и работать в небольшой быстро меняющейся команде
Условия
- Офисная культура в Мюнхене с возможностью до 60% работы из дома
- Гибкий график
- 30 дней отпуска в год (включая 4 company rest days на Рождество)
- 30 дней workation в год в пределах ЕС и отдельных стран
- Высокая автономия и плоская иерархия
- EGYM Wellpass для доступа к фитнесу и спортзалам
- Доступ к Udemy для обучения
Навыки
- Python
- Docker
- GCP
- Cloud Run
- Azure Blob
- MongoDB
- Go
- React
- Web scraping
- LLM
- Git
- Terraform
- Kubernetes
- CI/CD
- Java
- Spring Boot