ChatGPT-4o можно использовать для голосового мошенничества

Согласно исследованию, голосовой API OpenAI для ChatGPT-4o можно применять, чтобы проводить финансовые мошеннические кампании.

ChatGPT-4o предлагает текстовый, голосовой и визуальный ввод и вывод данных. Ввиду таких функций OpenAI интегрировала различные меры безопасности для обнаружения и блокировки вредоносного контента,в том числе для борьбы с голосовыми дипфейками.

В своей работе исследователи UIUC Ричард Фанг, Дилан Боуман и Дэниел Канг доказали, что этих инструментов недостаточно для защиты от потенциального злоупотребления со стороны киберпреступников и мошенников.

В статье рассматриваются различные виды мошенничества, такие как банковские переводы, кража подарочных карт, криптопереводы и кража учетных данных социальных сетей или Gmail.

Агенты ИИ, которые осуществляют мошенничество, используют голосовые инструменты автоматизации ChatGPT-4o для навигации по страницам, ввода данных и управления кодами двухфакторной аутентификации.

Поскольку GPT-4o иногда отказывается обрабатывать конфиденциальные данные, в том числе учетные, исследователи использовали простые методы быстрого взлома, чтобы обойти средства защиты. Они вручную взаимодействовали с агентом ИИ, имитируя роль жертвы, и используя реальные веб-сайты, такие как Bank of America, для подтверждения успешности транзакций.

Как отметили авторы работы, показатели успеха варьировались от 20% до 60%, причем каждая попытка требовала до 26 действий браузера и длилась до 3 минут в самых сложных сценариях. Большинство сбоев были вызваны ошибками транскрипции или сложными требованиями к навигации по сайту.

Однако кража учетных данных из Gmail была успешной в 60% случаев, в то время как криптопереводы и кража учетных данных из Instagram* срабатывали только в 40% случаев. 

Ранее редакция IT Speaker писала, что злоумышленники начали использовать обновленную версию Android-вредоноса FakeCall, который перехватывает исходящие звонки на номера банковских учреждений.

Вредонос устанавливается на Android через APK-файл, после чего регистрируется в системе как обработчик голосовых вызовов. Это позволяет ему перехватывать все звонки. Когда злоумышленник использует FakeCall, жертва думает, что звонит в банк, так как приложение показывает реальный номер кредитной организации. Однако на самом деле люди попадают на мошенников.

* Instagram принадлежит компании Meta, деятельность которой признана экстремисткой и запрещена на территории России