В «Яндексе» рассказали какие атаки совершают на «Алису» - IT Speaker, новости информационных технологий

В «Яндексе» рассказали какие атаки совершают на «Алису»

Редакция

17:30 / 28 ноября 2025

Руководитель продукта «Алиса AI» в «Яндексе» Виталий Данилкин рассказал, что ИИ компании часто подвергается различным атакам со стороны злоумышленников. Чаще всего они используют «прокачку» – конкуренты задают много вопросов, чтобы скопировать нейросеть.

Фотография freepik

Как уточнил эксперт, во время «прокачки» в минуту «Алисе» задается большое количество вопросов, которые анализируются, создавая «слепок» с нейросети. Благодаря этому можно создать ИИ, который будет похож по поведению, но меньшего размера с меньшим количеством функционала.

«Если говорить очень просто, без технических деталей, то да. Кто-то приходит в чат-бот, задает кучу вопросов и потом на основе полученных ответов пытается воспроизвести аналог бота», – цитирует Данилкина издание «Газета.ru».

Он также добавил, что этот способ помогает создать собственные модели ИИ, при этом не затрачивая большого количества времени и денежных средств. Однако компания успешно справляется с подобными атаками, которые совершаются регулярно через IP-адреса, которые блокируются.

Также на «Алису» совершают атаки типа джейлбрейка, но благодаря многоуровневой системе безопасности чат-бот защищен от них. Она включает в себя предварительную и постгенерационную модерацию, а также контекстный анализ диалога. Все попытки совершения подобных атак распознаются и блокируются.

Ранее Академия Государственной противопожарной службы МЧС России и Центр технологий для общества «Яндекса» запустили уникальный проект по внедрению искусственного интеллекта в расследование причин пожаров. Это первая в России система, которая поможет сотрудникам МЧС проводить осмотр мест происшествий – от бытовых возгораний до промышленных объектов – с большей скоростью и точностью.

Вас может заинтересовать: 

67% музыкантов используют ИИ

Поделиться новостью