В РФ разработан детектор распознавания дипфейков

Поставщик нейросетей FABULA AI разработал детектор распознавания дипфейков. Детектор разработан на базе искусственного интеллекта (ИИ) и представляет собой расширение для мессенджеров и социальных сетей, в частности Telegram.  

Детектор способен фильтровать весь входящий контент и подавать сигналы об обнаружении дипфейков или контента, созданного ИИ.  

«ИИ, подобно любому инструменту, в неподходящих руках может представлять опасность для обычных пользователей.  С помощью нейросетей уже сейчас можно подделывать голос, видео, фото. Если OpenAI не хочет брать на себя ответственность за такой контент, миру в любом случае нужны детекторы фейков. Люди должны иметь возможность проверять оригинальность любого контента, чтобы не боятся за себя и своих близких», — поделился Родион Кадыров, директор по продукту  FABULA AI. 

Детектор находится на последнем этапе тестирования. Официальная версия будет доступна к использованию во второй половине 2024 года. 

Напомним, в январе 2024 года FABULA AI начала реализацию стратегии обеспечения цифровой безопасности:  компания представит комплект инструментов, которые будут защищать пользователей от вредоносного контента, созданного на базе ИИ. 

В октябре 2023 года в НИТУ МИСИС разработали нейросеть для проверки подлинности лиц, изображенных на картинке. Загрузить фото для идентификации можно через специально разработанное веб-приложение, также предусмотрена возможность анализа в реальном времени через камеру компьютера.

На первом этапе распознавания лица используется заранее обученная нейросеть MTCNN, которая определяет положение лица на картинке. 

Затем на изображение добавляется специальное поле, 60% от площади которого составляет анализируемое лицо. Такое приближение дает значительный прирост в точности. 

Далее используется сеть InceptionResnet, дающая числовые представления особенностей лица. 

На втором этапе используется еще несколько слоев нейронной сети для отбора признаков изображения. 

Результаты двух этапов объединяются и проходят через несколько финальных слоев для получения окончательного вывода о подлинности изображения. Этот подход позволил достичь высокого значения точности при определении подлинности лиц.