AI Safety Expert - Adversarial ML

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Эксперт по безопасности ИИ для red teaming разговорных AI-моделей и агентов: джейлбрейки, prompt injection, анализ уязвимостей и документирование результатов. Контрактная удалённая работа с почасовой оплатой.

Задачи

• Проводить red teaming разговорных AI-моделей и агентов: джейлбрейки, prompt injection, сценарии злоупотребления, эксплуатация предвзятости
• Генерировать качественные человеческие данные: аннотировать сбои, классифицировать уязвимости, отмечать системные риски
• Следовать таксономиям, бенчмаркам и плейбукам для обеспечения согласованности тестирования
• Документировать воспроизводимо: готовить отчёты, датасеты и кейсы атак
• Работать независимо и асинхронно в гибком графике

Требования

• Свободное владение английским и бенгальским языками
• Сильное чувство языка и контента
• Внимательность к деталям и структурность
• Отличные коммуникативные навыки для технической и нетехнической аудитории
• Адаптивность к разным проектам и типам задач
• Желательно: опыт в Adversarial ML (датасеты джейлбрейков, prompt injection, атаки на RLHF/DPO, извлечение моделей)
• Желательно: опыт в кибербезопасности (пентест, разработка эксплойтов, реверс-инжиниринг)
• Желательно: знание социотехнических рисков и тестирования разговорных AI

Условия

• Контракт
• Удалённая работа
• Гибкий график
• Оплата $16–$22 в час

Навыки

• Adversarial ML
• Prompt injection
• Jailbreak
• RLHF
• DPO
• Model extraction
• Cybersecurity
• Penetration testing
• Reverse engineering
• AI testing
• English
• Bengali