Мошенники используют ИИ для подделки голосовых в Telegram

При помощи искусственного интеллекта (ИИ) мошенники генерируют голосовые сообщения, которые очень похожи на оригинальные, сообщает РБК.

Сначала вымогатели получают доступ к аккаунту человека в Telegram, потом на основе отправленных голосовых сообщений при помощи ИИ они создают новое, в котором вымогают деньги. Данное аудио отправляется во все чаты и беседы.

Более того, мошенники прикрепляют фотографию банковской карты с именем и фамилией владельца аккаунта. Если же данные в социальной сети отличаются от паспортных, то мошенники используют информацию именно из паспорта.

Помимо Telegram, вымогатели также используют данную схему и во «ВКонтакте». 

Как отмечает главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников, рядовые пользователи могут защититься от подобных атак только перепроверяя сообщения с просьбой о переводе денег по другим каналам связи, так как для них нет технических решений уровня UEBA с поведенческой аналитикой и поиском аномалий. 

«Что касается социальных сетей и мессенджеров, то уверен, что они начнут применять поведенческую аналитику, основанную на ИИ для защиты своих клиентов от подобного рода атак в ближайшее время. Сегодня уже существуют специальные решения для подобного рода задач, связанных с анализом аномального поведения пользователей в корпоративных сетях. Думаю, что в течение ближайших 5-10 лет, подобные решения по защите пользователей от вымогательских атак, сгенерированных ИИ, станут нормой жизни и будут доступны на премиальных подписках мессенджеров и в виде специализированных персональных защитных приложений, в которые будут преобразованы существующие антивирусные программы», – отмечает эксперт.

Ранее Mediacom.Expert провело исследование, в ходе которого выяснилось, что 74% россиян считают Telegram важным источником информации и новым СМИ. При этом больше половины (51%) относятся к мессенджеру как к полноценной соцсети.

В сентябре 2023 года Европейский институт телекоммуникационных стандартов (ETSI) опубликовал отчет об угрозах использования ИИ. В документе описываются случаи мошенничества при биометрической аутентификации, возможные сценарии масштабных дипфейк-атак и их последствия, включая срыв процедуры выборов и развязывания конфликтов. Редакция IT Speaker опросила экспертов, чтобы узнать о самых популярных схемах обмана при помощи дипфейков в России, а также способах противодействия им. Подробнее читайте в материале «Скам, буллинг и фишинг. Как дипфейки помогают мошенникам».