Software Engineer, Trust & Safety

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду Trust & Safety платформы OpenRouter. Задача — строить системы детекции и предотвращения злоупотреблений, фрода и нелегального контента, а также внутренние инструменты для ревью и энфорсмента.

Задачи

• Строить и поддерживать технические системы на этапах регистрации, платежей и использования для раннего выявления злоупотреблений и фрода
• Отвечать за весь пайплайн энфорсмента: от детекции кандидата до ручного ревью и применения ограничений в системах
• Разрабатывать внутренние инструменты для расследований и принятия решений: очереди кейсов, саммари доказательств, массовое ревью и алертинг
• Реализовывать решения по контентной безопасности на inference-пути: детекция и репортинг нелегального контента, KYC-системы и внешние источники разведданных
• Делать злоупотребления невыгодными через системы, инструменты и эвристики для быстрой детекции и масштабируемого энфорсмента
• Расследовать инциденты напрямую в данных и строить аналитический слой для оценки масштаба и отделения реального абьюза от ложных срабатываний
• Строить мониторинг рисков, всплесков абьюза и фрода, снижая число ложных срабатываний
• Определять техническое направление защиты от абьюза по мере роста платформы и задавать паттерны для других инженеров
• Работать с data scientists над исследованием фичей и обучением ML-моделей риска и абьюза

Требования

• 4+ года опыта разработки и эксплуатации production-систем, желательно в trust & safety, фроде, платёжных рисках, безопасности или anti-abuse
• Уверенное владение React, TypeScript, Next.js и JS-рантаймами
• Умение писать SQL по большим event-датасетам и рассуждать о base rates, precision/recall и цене ошибочного решения
• Здравый смысл при работе с неполными данными
• Высокая агентность и ориентация на действие: замечать проблемы, итерировать и шипить без ожидания тикетов
• AI-forward подход в работе: активное использование кодинг-агентов и автоматизация собственной работы
• Комфорт в небольшой быстро меняющейся среде с размытыми границами между командами
• Сдержанность и устойчивость: часть работы связана с просмотром disturbing-контента и чувствительными данными пользователей
• Сильные письменные и устные коммуникации, умение объяснять результаты инцидентов, правила детекции и системы разной аудитории
• Мотивация решать adversarial-задачи, где противник адаптируется к вашим решениям

Условия

• Hands-on IC-роль с широкой зоной ответственности: inference-путь, платежи, внутренние инструменты ревью и data-платформа
• Минимум процессов между вами и релизом
• Работа в небольшой быстро движущейся команде

Навыки

• React
• TypeScript
• Next.js
• SQL
• ClickHouse
• BigQuery
• Stripe Radar
• KYC
• LLM
• prompt injection
• jailbreaks