ИИ-программа будет находить ошибки на фото

Группа ученых из Института AIRI, «Сколтеха», MWS AI и МФТИ представили программное решение, позволяющее быстро обнаружить изображения, содержание которых не соответствует здравому смыслу. Разработка основана на ИИ-алгоритме, который работает с текстовыми описаниями изображений. 

«Наш мозг автоматически сопоставляет увиденное с базой накопленных знаний о мире и выявляет несоответствия. Для искусственного интеллекта эта задача гораздо сложнее. Существующие системы хорошо распознают отдельные объекты, но с трудом понимают, совместимы ли эти элементы друг с другом с точки зрения здравого смысла», – рассказал «Известиям» руководитель группы «Вычислительная семантика» в AIRI и группы NLP в «Сколтехе», доктор компьютерных наук Александр Панченко.

Технология работает в три этапа. На первом этапе ИИ создает простые факты об отдельных элементах изображения, то есть программа перечисляет то, что видит. При этом, чтобы полноценно описать картинку и не повторяться, она подбирает максимально непохожие друг на друга утверждения. 

Затем специальная нейросеть преобразует фразы в числовые последовательности – векторы, близкие по темам предложения получают схожие векторы. Это позволяет математически сравнивать смысл различных утверждений об изображении. 

На третьем этапе система автоматически сравнивает числовые векторы, и, если находит совершенно непохожие, то делает вывод, что изображение странное или противоречивое. Если же сильных различий нет, картинка считается нормальной. 

Исследователи рассчитывают, что разработка может быть востребована для проведения мониторинга визуальных данных в интернете, выявления фейковых фотографий, интерпретации спутниковых снимков и в других подобных приложениях. 

Ранее редакция IT Speaker писала о том, что федеральный верховный суд Германии разрешил патентовать изображения, которые сгенерированы системами искусственного интеллекта (ИИ), в том случает, если автором будет указан человек.