OpenAI хочет ввести водяные знаки в ChatGPT

Компания OpenAI рассматривает возможность добавления текстовых водяных знаков в нейросеть ChatGPT, чтобы студенты не смогли использовать ее для списывания, пишет The Wall Street Journal. Компания уже разработала технологию, однако не решается ее выпустить.

«Наши команды разработали метод текстовых водяных знаков, который мы продолжаем рассматривать, изучая альтернативы», — заявили в OpenAI.

Компания изучала не просто водяные знаки, а также классификаторы и метаданные, которые рассматривала в рамках «обширного исследования в области происхождения текста». Однако она столкнулась с некоторыми проблемами: технология работала некорректно, когда сталкивалась с использованием систем перевода, переформулировкой с помощью другой генеративной модели или просьбой к модели вставить специальный символ между каждым словом, а затем удалить его.

Опасения OpenAI также связаны с тем, что для пользователей, которые не являются носителем английского языка или используют искусственный интеллект для облегчения рабочего процесса, нейросеть предстанет в негативном свете. На данный момент компания отдала приоритет выпуску инструментов аутентификации для аудиовизуального контента.

Ранее OpenAI анонсировала собственный поисковик — SearchGPT, который в скором времени будет представлен в виде прототипа, доступ к которому получат первые 10 тысяч пользователей. Поисковая система работает на базе искусственного интеллекта и предоставляет информацию в режиме реального времени.

Однако недавно компания столкнулась с тем, что ряд ведущих новостных сайтов, включая The New York Times, начали блокировать бота для индексации данных OAI-SearchBot.

Без доступа к контенту заблокированных сайтов SearchGPT будет уступать по полноте данных поисковику Google, так как крупные новостные сайты не блокируют аналогичных роботов Google.