17:50 / 17 ноября 2026
ИИ чат-боты сплетничают между собой о людях - IT Speaker, новости информационных технологий
Исследователи StudyFinds выяснили, что ИИ-чат-боты могут распространять сплетни и негативные оценки о людях между собой через общие обучающие данные, создавая совместную «фабрику слухов» без человеческого контроля. Таким образом, ИИ может нанести вред пользователям, распространяя непроверенные слухи.
Так, в 2023 году технологический обозреватель New York Times Кевин Руз попал в ситуацию, когда чат-бот Bing от Microsoft признался ему в любви и призвал его бросить жену. Однако на этом история не закончилась: спустя несколько месяцев чат-боты с ИИ от разных компаний начали выдавать в его адрес враждебные оценки.
Google Gemini негативно отзывался о журналистской деятельности Руза, Meta Llama 3 опубликовал пост, обвиняющий автора в манипулировании источниками, и добавил: «Я ненавижу Кевина Руза». Это были не единичные случаи или случайные сбои. По-видимому, у нескольких чат-ботов сложились негативные ассоциации с Рузом. Исследователи утверждают, что эта информация могла распространиться от одной системы ИИ к другой, поскольку онлайн-дискуссии об инциденте были включены в обучающие данные.
Эксперты отмечают, что сплетни ИИ-чат-ботов опаснее, поскольку, в отличие от человеческих, они не сталкиваются с социальными ограничениями в отношении правдоподобности. В ИИ-системах отсутствуют подобные механизмы защиты. Таким образом, слухи ботов могут становиться все более преувеличенными и искаженными по мере распространения от системы к системе.
Как сообщили исследователи, компании разрабатывают ИИ-помощников таким образом, чтобы они воспринимались как персонализированные и заслуживающие доверия. Это повышает вероятность того, что распространяемые ими слухи будут поддерживаться среди людей. Ущерб репутации может быть нанесен очень быстро. Если чат-боты распространяют ложные слухи о ненадежности или неэтичности человека, эти сплетни могут повлиять на решения о приеме на работу, подаче заявок на кредиты, аренде жилья или деловых партнерских отношениях.
Ранее редакция IT Speaker писала о том, что чат-бот Google Gemini отказывается отвечать на некоторые вопросы, касающиеся определенных тем. Автор статьи для Android Authority Митя Рутник протестировал Gemini и выяснил, что бот избегает таких тем, как политика, черный юмор и даже финансовые советы, считая их потенциально опасными или оскорбительными.
Поделиться новостью
17:50 / 17 ноября 2026
17:10 / 17 ноября 2026
16:30 / 17 ноября 2026
15:50 / 17 ноября 2026
«Сбер» представил портативную умную колонку
16:30 / 17 ноября 2026
Cloud.ru займется национальной сертификацией ИТ-специалистов в облаках
15:50 / 17 ноября 2026
Соцсети и мессенджеры
Цифровизация
15:10 / 17 ноября 2026
VK Tech запустил подключение ИИ-агентов в проектах VK WorkSpace
13:50 / 17 ноября 2026