В РФ появилась ИИ-модель для борьбы с мошенничеством

Специалисты института AIRI, МТУСИ и «Сколтеха» запустили новую модель искусственного интеллекта (ИИ) для определения поддельных сгенерированных голосов под названием AASIST3. Модель применима для противодействия голосовому мошенничеству и повышения безопасности систем, использующих голосовую аутентификацию. Представленная архитектура вошла в топ-10 лучших решений международного соревнования ASVspoof 2024 Challenge.

По словам разработчиков, системы голосовой биометрии помогают идентифицировать людей на основе их голосовых характеристик. Такие системы используют для аутентификации пользователей при проведении финансовых транзакций и в эксклюзивном контроле доступа в смарт‑устройствах. Кроме того, системы голосовой биометрии можно задействовать в противодействии телефонному мошенничеству нового поколения.

Однако модели распознавания голоса могут быть уязвимы к состязательным атакам. Для того чтобы провести атаку, надо определенным образом настроить небольшое изменение входного аудио, приводящее к значительному отличию результатов работы модели. При этом для человека это изменение будет незаметно или незначительно.

Чтобы обойти системы безопасности, злоумышленники научились генерировать синтетический голос с помощью преобразования текста в речь (text‑to‑speech, TTS) и преобразования голоса (voice conversion, VC). Для эффективного противодействия озвученным атакам необходимо внедрение систем защиты от подмены голоса.

Процесс создания модели и выбора подхода к обучению носил итеративный характер: исследователи проверяли разные гипотезы, выбирали лучшие и старались объединить подходы так, чтобы усилить метрики качества, например EER (уровень, при котором частота ошибки первого рода равна частоте ошибки второго рода) и t‑DCF, взвешенно учитывающая вклады ошибок при разных сценариях авторизации (для обеих метрик — чем меньше, тем лучше). 

Иногда даже обычные звуки идут на пользу мошенникам. Так, хакеры нашли новый способ кражи личных данных с помощью шума компьютера. Этот метод получил название PIXHELL. Об этом стало известно из исследования ученых из Университета имени Бен-Гуриона в Негеве (Израиль).

Уникальность данного хакерского метода заключается в том, что злоумышленникам не нужно специальное аудиооборудование или динамики компьютера. Им достаточно звуков ЖК-дисплея.