Увеличилось число программ по созданию дипфейков

В интернете значительно увеличилось число доступных программ по созданию дипфейков. На данный момент в сети их уже более 50 тысяч, хотя еще два года назад таких решений практически не было. 

«В открытом доступе появилось более 50 тыс. бесплатных инструментов для генерации дипфейков – от мобильных программ до сложных платформ с искусственным интеллектом», – рассказали «Известиям» в пресс-службе MWS AI (входит в МТС Web Services, ранее MTS AI). 

Издание провело свой эксперимент, где создали дипфейк и убедились, что для этого требуется минимум усилий и опыта. Для генерации цифрового аватара сотрудникам понадобилось всего лишь две фотографии – корреспондента и его знакомого. 

Далее их загрузили в один из популярных онлайн-сервисов, в котором есть опция замены лица, а в качестве шаблона выбрали заранее подготовленное фото с человеком. После этого программа автоматически подставила лицо журналиста на тело другого человека. Весь процесс занял не более 10 минут. Однако для создания видео с дипфейком надо купить подписку, открывающую доступ к улучшенным алгоритмам. В среднем это стоит от $3-6 в месяц. 

Таким образом, создание дипфейков не требует больших усилий, и любой пользователь с базовыми навыками может сгенерировать реалистичное видео или аудио от лица любого человека. По словам депутата Госдумы Антона Немкина, угроза заключается не только в фейковых новостях или репутационных атаках, но и в практическом применении этих технологий мошенниками.

«Дипфейки используются для обмана граждан и организаций: поддельные голоса руководителей, видеообращения от "сотрудников банка", "чиновников" или "родственников" становятся частью сложных схем социальной инженерии», – сказал Немкин «Известиям». 

По его словам, проблема ухудшается из-за того, что распознать дипфейк становится сложнее – технологии генерации развиваются быстрее, чем средства защиты. Кроме того, для обычного человека разница между настоящим и сгенерированным контентом почти незаметна. Все это становится причиной массовых манипуляций и разрушения доверия к визуальным и аудиодоказательствам в целом. 

Ранее редакция IT Speaker писала, что в мире возникает тенденция, когда люди согласны предоставлять свои изображения и голос для использования в мошеннических дипфейках. Обычно модели для дипфейков предлагают свои данные для создания виртуальных персонажей в кино, рекламе и видеоиграх. Однако мошенники используют эти данные для обмана.