17:50 / 17 ноября 2026
В «Яндексе» объяснили галлюцинации в ответах «Алисы» - IT Speaker, новости информационных технологий
Руководитель бизнес‑группы поисковых сервисов и искусственного интеллекта «Яндекса» Дмитрий Масюк заявил, что многие галлюцинации в ответах ИИ‑ассистента «Алисы» устраняются, однако избавиться от них полностью невозможно.
По словам Масюка, в компании существуют механизмы дообучения, когда нейросеть «наказывают» за «придумки» и мотивируют «быть гораздо ближе к источникам», пишет РБК.
Более того, он рассказал, что обучение ИИ‑ассистента проходит в три этапа: на первом берется «более‑менее весь интернет, очищенный от заведомо каких‑то бессмысленных вещей» – это десятки терабайтов данных. На втором этапе нейросети дают сотни тысяч вопросов и ответов, написанных редакторами. Так она учится поведению, «что следует комментировать, что не следует комментировать». Третий этап, по словам Масюка, «самый хитрый».
«Мы делаем отдельную нейросеть, которая оценивает ответы основной. И следом, соответственно, нейросеть работает, работает, работает, работает, а в это время ее оценивает та самая отдельная нейросеть‑судья, скажем так», – пояснил он.
Ранее исследователи «Яндекса» создали новый метод оценки качества машинного перевода. Новинку можно применять для совершенствования моделей, которые уже переводят тексты довольно точно, но делают это не всегда естественно.
Поделиться новостью
17:50 / 17 ноября 2026
17:10 / 17 ноября 2026
16:30 / 17 ноября 2026
15:50 / 17 ноября 2026
«Сбер» представил портативную умную колонку
16:30 / 17 ноября 2026
Cloud.ru займется национальной сертификацией ИТ-специалистов в облаках
15:50 / 17 ноября 2026
Соцсети и мессенджеры
Цифровизация
15:10 / 17 ноября 2026
VK Tech запустил подключение ИИ-агентов в проектах VK WorkSpace
13:50 / 17 ноября 2026