ИИ чат-боты сплетничают между собой о людях - IT Speaker, новости информационных технологий

ИИ чат-боты сплетничают между собой о людях

Редакция

20:00 / 25 декабря 2025

Исследователи StudyFinds выяснили, что ИИ-чат-боты могут распространять сплетни и негативные оценки о людях между собой через общие обучающие данные, создавая совместную «фабрику слухов» без человеческого контроля. Таким образом, ИИ может нанести вред пользователям, распространяя непроверенные слухи. 

Фотография freepik

Так, в 2023 году технологический обозреватель New York Times Кевин Руз попал в ситуацию, когда чат-бот Bing от Microsoft признался ему в любви и призвал его бросить жену. Однако на этом история не закончилась: спустя несколько месяцев чат-боты с ИИ от разных компаний начали выдавать в его адрес враждебные оценки. 

Google Gemini негативно отзывался о журналистской деятельности Руза, Meta Llama 3 опубликовал пост, обвиняющий автора в манипулировании источниками, и добавил: «Я ненавижу Кевина Руза». Это были не единичные случаи или случайные сбои. По-видимому, у нескольких чат-ботов сложились негативные ассоциации с Рузом. Исследователи утверждают, что эта информация могла распространиться от одной системы ИИ к другой, поскольку онлайн-дискуссии об инциденте были включены в обучающие данные.

Эксперты отмечают, что сплетни ИИ-чат-ботов опаснее, поскольку, в отличие от человеческих, они не сталкиваются с социальными ограничениями в отношении правдоподобности. В ИИ-системах отсутствуют подобные механизмы защиты. Таким образом, слухи ботов могут становиться все более преувеличенными и искаженными по мере распространения от системы к системе. 

Как сообщили исследователи, компании разрабатывают ИИ-помощников таким образом, чтобы они воспринимались как персонализированные и заслуживающие доверия. Это повышает вероятность того, что распространяемые ими слухи будут поддерживаться среди людей.  Ущерб репутации может быть нанесен очень быстро. Если чат-боты распространяют ложные слухи о ненадежности или неэтичности человека, эти сплетни могут повлиять на решения о приеме на работу, подаче заявок на кредиты, аренде жилья или деловых партнерских отношениях. 

Ранее редакция IT Speaker писала о том, что чат-бот Google Gemini отказывается отвечать на некоторые вопросы, касающиеся определенных тем. Автор статьи для Android Authority Митя Рутник протестировал Gemini и выяснил, что бот избегает таких тем, как политика, черный юмор и даже финансовые советы, считая их потенциально опасными или оскорбительными. 


Поделиться новостью