В «Википедии» удалят сгенерированные ложные статьи

Группа специалистов открыла проект WikiProject AI Cleanup. Он создан для поиска, редактирования и удаления ложной информации, которую в энциклопедию добавили с помощью генеративного искусственного интеллекта (ИИ).

Один из основателей проекта Ильяс Леблю рассказал, что редакторы и пользователи «Википедии» заметили отрывки статей, которые явно сгенерировал чат-бот. Некоторые из этих текстов удалось в точности воссоздать с помощью ChatGPT.

«Мы обратили внимание на необычный стиль письма, который явно не принадлежит живому человеку, и смогли воспроизвести эти фразы с помощью ChatGPT. Обнаружив характерные обороты и выражения, мы идентифицировали наиболее яркие примеры сгенерированных статей. После этого и было решено организовать проект по поиску ИИ-текстов», — рассказал Леблю.

В частности, создатели сервиса обнаружили статью о якобы османской крепости под названием «Амберлисихар», построенной в 1400-х годах. В тексте объемом около 2 тысяч слов подробно описывалось местоположение и строительство этого объекта. Однако на самом деле такой крепости никогда не существовало в реальности.

Как выяснила команда, некоторые пользователи также вставляют ложные данные в уже существующие статьи. Так, в статью о жуке добавили раздел, посвященный виду крабов, причем с правильными ссылками на источники. 

Ранее редакция IT Speaker писала, что, по данным Роскомнадзора, в 2024 году онлайн-энциклопедия «Википедия», принадлежащая американской Wikimedia Foundation, удалила лишь 1 материал из более чем 200, на которые поступали требования ведомства.

Представитель РКН рассказал, что в прошлом году «Википедия» удалила только один материал по требованию надзорного органа. В 2024 году 129 запросов касались фейков о ходе специальной военной операции. Остальные требования были связаны с экстремистскими материалами, информацией о вовлечении несовершеннолетних в преступные действия, а также с контентом о производстве взрывчатки, суицидальной тематикой и пропагандой наркотиков.