17:50 / 17 ноября 2026
В «Яндексе» рассказали какие атаки совершают на «Алису» - IT Speaker, новости информационных технологий
Руководитель продукта «Алиса AI» в «Яндексе» Виталий Данилкин рассказал, что ИИ компании часто подвергается различным атакам со стороны злоумышленников. Чаще всего они используют «прокачку» – конкуренты задают много вопросов, чтобы скопировать нейросеть.
Как уточнил эксперт, во время «прокачки» в минуту «Алисе» задается большое количество вопросов, которые анализируются, создавая «слепок» с нейросети. Благодаря этому можно создать ИИ, который будет похож по поведению, но меньшего размера с меньшим количеством функционала.
«Если говорить очень просто, без технических деталей, то да. Кто-то приходит в чат-бот, задает кучу вопросов и потом на основе полученных ответов пытается воспроизвести аналог бота», – цитирует Данилкина издание «Газета.ru».
Он также добавил, что этот способ помогает создать собственные модели ИИ, при этом не затрачивая большого количества времени и денежных средств. Однако компания успешно справляется с подобными атаками, которые совершаются регулярно через IP-адреса, которые блокируются.
Также на «Алису» совершают атаки типа джейлбрейка, но благодаря многоуровневой системе безопасности чат-бот защищен от них. Она включает в себя предварительную и постгенерационную модерацию, а также контекстный анализ диалога. Все попытки совершения подобных атак распознаются и блокируются.
Ранее Академия Государственной противопожарной службы МЧС России и Центр технологий для общества «Яндекса» запустили уникальный проект по внедрению искусственного интеллекта в расследование причин пожаров. Это первая в России система, которая поможет сотрудникам МЧС проводить осмотр мест происшествий – от бытовых возгораний до промышленных объектов – с большей скоростью и точностью.
Поделиться новостью
17:50 / 17 ноября 2026
17:10 / 17 ноября 2026
16:30 / 17 ноября 2026
15:50 / 17 ноября 2026
DION усилил безопасность мобильной работы
17:50 / 17 ноября 2026
RuStore и «Билайн» предупредили о мошенниках в «Черную пятницу»
15:30 / 17 ноября 2026
В России выросло число атак на администраторов
14:30 / 17 ноября 2026
Хакеры атакуют компании через собеседования ИТ-сотрудников
13:10 / 17 ноября 2026