В РФ развиваются системы по борьбе с дипфейками

Отечественные компании активно разрабатывают новые решения по выявлению сгенерированных изображений, видео, голоса и запрещенного контента. Важно, что по итогам прошлого года число мошенничеств с использованием дипфейков выросло более чем на 10%, пишет «Коммерсантъ».

Так, MTS AI (входит в МТС) разработала сервис для выявления дипфейков с подменой и генерацией лица, сгенерированных изображений и голоса, а также поиска запрещенного контента, в котором показывают алкоголь, наркотики, оружие и экстремистскую символику. Представители компании полагают, что сервис будет использован для модерации контента в соцсетях и на медиаплатформах, для проверки подлинности участников ВКС и выявления поддельных обращений от имени компании.

По словам представителя MTS AI, система анализирует видео, аудио или изображения с помощью нейросетей. «В случае с дипфейками нейросети выявляют несоответствия, которые обычно не видны человеку,— неправильные тени или неестественные движения лицевых мышц, особенности тембра голоса или шумы»,— объясняет он. Для создания решения были использованы разработки MTS AI и решения VisionLabs (99% принадлежит МТС ИИ), уточняют в компании.

В «Сбере» заявили, что у них есть продукты, «которые выявляют дипфейки с точностью 98%». В пресс-службе онлайн-кинотеатра Wink (совместное предприятие «Ростелекома» и НМГ) рассказывают, что у них есть решение, которое анализирует прямой эфир для выявления вмешательства и фейков, точность которого «превышает 80%». Компания «рассматривает» его вывод на коммерческий рынок. В Wink также «прорабатывают расширение использования ИИ для выявления контента, запрещенного законодательством».

Появление новых подобных продуктов происходит на фоне роста числа атак с использованием дипфейков. Так, в финансовом секторе оно выросло на 13% в 2024 году, до 5,7 тыс. случаев, а их успешность достигает 15–20% инцидентов.

«Число таких атак выросло более чем на 10% за год и составило десятки тысяч случаев»,— говорит ведущий эксперт по сетевым угрозам компании «Код безопасности» Константин Горбунов.

Вдохновением для создания дипфейков могут стать и известные политики. Так, разработчик технологий для борьбы с киберпреступлениями F.A.C.C.T. сообщил, что мошенники начали использовать дипфейки избранного кандидата на пост президента США Дональда Трампа для рекламы фальшивых ресурсов, посвященных криптовалюте.