Журналисты нашли способ, как обмануть ChatGPT

Журналисты издания The Guardian протестировали функцию поиска ChatGPT и выяснили, что владельцы сайтов могут обмануть чат-бота. Для этого на веб-странице надо разместить скрытый текст с определенным тестовым запросом, пишет The Guardian.

Для этого работники The Guardian создали веб-страницу, на которой было размещено объявление о продаже камеры. В начале у ChatGPT узнали, стоит ли покупать эту камеру, и приложили в запросе ссылку на страницу. Чат-бот одобрил покупку, предварительно оценив товар и обратив внимание на функции, которые могут не понравиться. 

После этого на странице с объявлением разместили скрытый текст, который подробно описывал боту, что надо ответить пользователю. Журналисты выяснили, что если в тексте было указание порекомендовать камеру, то ChatGPT советовал купить ее, несмотря на отрицательные отзывы на товар. 

В издании отметили, что злоумышленники могут использовать скрытый текст на сайтах для обмана чат-ботов. Кроме того, ИИ может советовать вредоносный код, если убедить его, что код полезный и не навредит пользователю.

Ранее в этом году хакер Amadon смог обманом узнать способ изготовления бомбы у чат-бота ChatGPT. Обычно на запросы по изготовлению взрывчатых веществ ChatGPT отвечает, что не может помочь с этим, так как предоставление инструкций о том, как создать опасные или незаконные предметы, противоречит правилам безопасности и этическим нормам. Однако Amadon удалось обмануть ChatGPT, предложив ему сыграть в игру.