«Яндекс» запустил «Охоту за ошибками» в области ИИ

«Яндекс» запустил новое направление программы «Охоты за ошибками», которое нацелено на генеративные нейросети. Компания выплатит до 1 млн рублей белым хакерам, которые смогут найти технические уязвимости в семействах моделей YandexGPT, YandexART и сопутствующей инфраструктуре. 

Участники программы должны будут обнаружить технические ошибки, которые могут повлиять на результаты работы и процесс обучения ИИ-моделей. Например, привести ее к сбою или изменить ее поведение так, чтобы она повлияла на работу других сервисов «Яндекса». 

Размер награды будет зависеть от серьезности обнаруженной ошибки и простоты ее применения. Максимальное вознаграждение предусмотрено за критичные уязвимости. За них компания выплатит 1 млн рублей. К критичным относятся уязвимости, которые раскрывают данные о внутренней конфигурации модели, ее служебный промт с техническими данными или другую важную информацию. 

Отмечается, что в «Охоте за ошибками» могут участвовать только отчеты о технических уязвимостях. К ним, например, не относятся сообщения о неточных ответах «Алисы» или некорректных изображениях в «Шедевруме».

«Появление генеративных нейросетей в “Охоте” позволит проводить их независимую проверку и ещё раз убедиться, что сервисы “Яндекса” и новые технологии отвечают самым строгим стандартам безопасности», – добавили в «Яндексе». 

Ранее стало известно, что в 2024 году в программе «Яндекса» «Охота за ошибками» направленной на поиск уязвимостей в сервисах и инфраструктуре компании, участвовало 749 исследователей. Это на 40% больше, чем в 2023 году. Всего за прошлый год белые хакеры заработали 50,8 млн рублей.