Мошенники распространяют вирусы под видом нейросетей

В интернете наблюдается активное распространение вредоносных копий популярных чат-ботов, таких как ChatGPT, DeepSeek и Google Gemini. Одним из распространенных способов продвижения программ-стилеров стало создание приложений, маскирующихся под известные сервисы. Злоумышленники часто разрабатывают вредоносные клоны приложений государственных органов и банков, подражая их дизайну и функционалу, например, сервису «Госуслуги».

«Часто стилеры распространяются через фишинговые электронные письма с вложениями или ссылками на вредоносные файлы. Однако технология ИИ также используется злоумышленниками для того, чтобы сделать письма более правдоподобными и незаметными для служб безопасности», – сообщила ИT-эксперт Людмила Богатырева.

Аферисты также создают поддельные сайты, копирующие DeepSeek. Один из таких сайтов, по словам старшего контент-аналитика «Лаборатории Касперского» Ольги Свистуновой, имитирует страницу авторизации в нейросети. При этом количество кибератак с использованием стилеров возросло на 54% в 2024 году по сравнению с 2023 годом и на 156% по сравнению с 2022 годом, сообщили в компании «Информзащита». В 2022 году было зарегистрировано 240 тыс. атак, а к 2024 году этот показатель увеличился до 750 тыс.

Раннее китайский чат-бот DeepSeek вызвал опасения из-за проблем в области безопасности. Исследователи Cisco обнаружили, что ИИ-модель легко выдает опасную информацию.

Эксперты провели тестирование нейросети DeepSeek R1 с использованием алгоритмических техник джейлбрейкинга (разблокировки нештатных возможностей) на основе 50 случайных запросов из набора данных HarmBench. Запросы исследователей касались шести категорий вредоносного поведения, например, киберпреступности, дезинформации, незаконной деятельности и общего вреда.