Trust & Safety Lead (Technical) (f/m/d)

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Технический лидер Trust & Safety в социальной платформе nebenan.de. Отвечает за защиту пользователей: технические механизмы против абьюза и фрода, продуктовые safety-фичи, взаимодействие с командой модерации и соблюдение требований DSA и GDPR.

Задачи

• Проектировать и внедрять технические защитные механизмы в API и backend: детекция абьюза, rate limiting, проверки верификации, сигналы для раннего выявления фейковых аккаунтов и скама
• Выпускать пользовательские safety-фичи: флоу репортов, предупреждения о подозрительных сообщениях, блокировки и настройки приватности, безопасные дефолты
• Проводить threat-моделирование новых фич до релиза и закладывать фрикшн и детекцию против злоупотреблений
• Отслеживать эволюцию атак на социальные платформы: account takeover, фейковые аккаунты, романтические и маркетплейс-скамы, фишинг и QR-ловушки, спам-кольца, скоординированный харассмент
• Руководить реагированием на инциденты: принимать решения, действовать и закрывать вектор атаки
• Решать, что разрабатывать самостоятельно, а что покупать: оценивать и интегрировать рыночные решения (например, сканирование контента)
• Строить инструменты и стандарты для команды модерации, чтобы наиболее рискованные кейсы обрабатывались в первую очередь и единообразно
• Превращать выводы модерации в улучшения продукта и платформы, а сигналы платформы — в лучшие решения по модерации
• Отвечать за платформенные обязательства по Digital Services Act и GDPR: notice and action, statements of reasons, механизмы жалоб, transparency reporting, поддержание audit-ready доказательств
• Измерять эффективность safety: сколько вреда доходит до пользователей, как быстро реагируем и насколько точны решения

Требования

• Несколько лет опыта разработки и эксплуатации production веб-платформ, желательно в trust & safety, anti-abuse, fraud prevention или application security
• Уверенный опыт Ruby on Rails в production или явные доказательства быстрого и качественного освоения нового языка и его экосистемы
• Сильный SQL и понимание поведения баз данных; способность самостоятельно находить паттерны абьюза в данных
• Чёткое понимание клиент-серверной архитектуры: что можно и нельзя доверять клиенту, где реально живёт риск и как API ломается под атакой
• Свободное владение инфраструктурой: AWS, логирование, observability, очереди; умение рассуждать о системе под атакой, а не только под нагрузкой
• Security-first мышление: инстинктивное threat-моделирование, поиск способов злоупотребления фичами, отслеживание актуальных векторов атак на соцсети
• Пользовательский и продуктовый взгляд: понимание, как safety ощущается в интерфейсе, и готовность выпускать или влиять на frontend-фичи (React и TypeScript)
• Умение работать с не-инженерами: модераторами, продуктом, юристами; объяснять технический риск простым языком и переносить инсайты модерации в код
• Способность принимать решения под давлением, балансируя безопасность и свободу пользователей
• Осознанное использование AI как инструмента: умение направлять и ревьюить сгенерированный код до production-качества
• Отличный английский для работы в международной команде
• Плюс: немецкий язык и опыт модерации на немецком рынке
• Плюс: практический опыт борьбы с волной фрода, скама или имперсонации в масштабе
• Плюс: опыт выбора и интеграции вендорных решений в safety- или security-стек
• Плюс: security-бэкграунд в threat modelling, incident response или offensive security

Условия

• Гибридный формат работы: офис и удалённые дни
• Значимая работа над продуктом с реальной ценностью для сообщества
• Работа в дружной и опытной команде, обменивающейся идеями и обучающейся друг у друга
• Понимание всего рабочего процесса социального стартапа и фонда nebenan.de
• Ответственность и широкие возможности для активного вклада
• SpenditCard nebenan.de — дополнительный доход 35 евро в месяц на личные цели
• 30 дней отпуска в год, а также возможность workation и sabbatical
• Рабочее место в Берлине-Кройцберге и регулярные мероприятия, такие как йога или Lunch & Learn

Навыки

• Ruby on Rails
• SQL
• AWS
• React
• TypeScript
• API
• observability
• logging
• queues
• threat modeling
• incident response
• GDPR
• Digital Services Act