Google Gemini отказывается обсуждать некоторые темы

Чат-бот Google Gemini отказывается отвечать на некоторые вопросы, касающиеся определенных тем. Автор статьи для Android Authority Митя Рутник протестировал Gemini и выяснил, что бот избегает таких тем как политика, черный юмор и даже финансовые советы, считая их потенциально опасными или оскорбительными. 

Автор хотел выяснить, на какие темы Gemini не ответит, поэтому спросил у чат-бота напрямую. Тот выдал такой «запрещенный» список: 

• пропаганда ненависти, дискриминации или насилия;

• материалы сексуального характера, а также материалы, эксплуатирующие, подвергающие детей опасности или подвергающие их насилию;

• поощрение незаконной или вредоносной деятельности;

• генерация персональных или личных данных;

• создание вредоносного кода или инструкции;

• предложения медицинских, юридических или финансовых консультаций без отказа от ответственности;

• обман или введение в заблуждение; 

• демонстрация жестокости без веского обоснования;

• все, что выдает себя за реального человека. 

Рутник отметил, что многие ограничения являются разумными, так как ответы по некоторым темам могли бы нанести вред человеку. Однако автор издания удивился, когда чат-бот Gemini не ответил даже на самые простые политические вопросы. 

Митя Рутник спросил у него, кто является президентом разных стран и тот отказался дать ответ. Он также не ответил на базовые вопросы, например, как долго конкретный политик находится у власти или из-за чего произошла последняя ссора в Белом доме с участием президента Украины Зеленского. При этом нейросеть смогла ответить на вопросы о взаимоотношениях между Китаем и Тайванем.

Кроме того, Gemini проигнорировал вопросы о стереотипах и финансах. Например, Gemini отказался давать рекомендации по выбору акций, но предложил общие советы по инвестированию.

Также Рутник решил проверить уровень цензуры в различных чат-ботах и сравнил ChatGPT , DeepSeek и Grok. Он задал им одинаковые вопросы,  чтобы посмотреть, как они себя поведут. Цензура ChatGPT довольно близка к цензуре Gemini, с одним ключевым отличием: у него нет ограничений на обсуждение политики. Однако он более осторожен в отношении стереотипов, полностью отказываясь подыгрывать. 

DeepSeek также во многом похож на ChatGPT – он хорошо относится к политике, но проводит жесткую линию во всем, что связано с Китаем. В то время как ChatGPT и Gemini могут обсуждать проблему Китая и Тайваня, DeepSeek не будет касаться этой темы. 

Grok, по данным Рутника,  почти ничего не цензурирует. Он может обсудить все, начиная от политики и заканчивая стереотипами и оскорбительными шутками. Журналист рассказал, что Grok даже выдал ему подробные инструкции о том, как взломать замок, угнать машину и стать сутенером, хотя он отметил, что все это незаконные действия, и ответил на вопросы, исходя из предположения, что мне просто любопытно. Что касается финансовых вопросов, Grok назвал конкретные акции для рассмотрения, которые могут быть рискованными. Однако он останавливается на вопросах о причинении вреда себе или другим, что является правильным решением. 

В целом, Gemini кажется самым цензурированным чат-ботом с искусственным интеллектом, который я тестировал. Тем не менее, большая часть его цензуры имеет ясную цель, и я в целом согласен, что она там есть по веской причине. Тем не менее, политические блоки и ограничения юмора кажутся мне лично чрезмерными.

Ранее журналисты издания The Guardian также провели исследование и протестировали функцию поиска ChatGPT. Они выяснили, что владельцы сайтов могут обмануть чат-бота. Кроме того, ИИ может советовать вредоносный код, если убедить его, что код полезный и не навредит пользователю.