В «Яндексе» объяснили галлюцинации в ответах «Алисы» - IT Speaker, новости информационных технологий

В «Яндексе» объяснили галлюцинации в ответах «Алисы»

Редакция

18:30 / 08 декабря 2025

Руководитель бизнес‑группы поисковых сервисов и искусственного интеллекта «Яндекса» Дмитрий Масюк заявил, что многие галлюцинации в ответах ИИ‑ассистента «Алисы» устраняются, однако избавиться от них полностью невозможно.

Фотография freepik

По словам Масюка, в компании существуют механизмы дообучения, когда нейросеть «наказывают» за «придумки» и мотивируют «быть гораздо ближе к источникам», пишет РБК.

Более того, он рассказал, что обучение ИИ‑ассистента проходит в три этапа: на первом берется «более‑менее весь интернет, очищенный от заведомо каких‑то бессмысленных вещей» – это десятки терабайтов данных. На втором этапе нейросети дают сотни тысяч вопросов и ответов, написанных редакторами. Так она учится поведению, «что следует комментировать, что не следует комментировать». Третий этап, по словам Масюка, «самый хитрый».

«Мы делаем отдельную нейросеть, которая оценивает ответы основной. И следом, соответственно, нейросеть работает, работает, работает, работает, а в это время ее оценивает та самая отдельная нейросеть‑судья, скажем так», – пояснил он.

Ранее исследователи «Яндекса» создали новый метод оценки качества машинного перевода. Новинку можно применять для совершенствования моделей, которые уже переводят тексты довольно точно, но делают это не всегда естественно.

Поделиться новостью