В «Лаборатории Касперского» выявили, как пользователи манипулируют ИИ

Специалисты «Лаборатории Касперского» рассказали, как пользователи научились манипулировать искусственным интеллектом (ИИ), используемым в чат-ботах и поисковых системах.

По их данным, люди размещают на своих сайтах и в документах специальные «инъекции» – скрытые фразы, которые незаметно для человека влияют на работу ИИ-алгоритмов. Эти «ключи» позволяют манипулировать результатами поисковых запросов.

Например, с помощью «инъекций» можно выводить определенные резюме на первые места при поиске работы или повышать рейтинг конкретных товаров в поисковых чат-ботах. Некоторые пользователи даже используют их, чтобы выразить протест против использования ИИ.

Эксперты отмечают, что разработчики ИИ принимают меры по противодействию таких манипуляций. Компании OpenAI и Google работают над созданием новых моделей, которые распознают и блокируют «инъекции».

Однако специалисты подчеркивают, что ИИ по-прежнему остается уязвимым к подобным атакам. Поэтому при использовании результатов, полученных с помощью ИИ-систем, необходимо проявлять осторожность и учитывать возможное влияние скрытых действий.

Ранее, согласно данным «‎‎Лаборатории Касперского», в конце июля 2024 года была зафиксирована серия кибератак, нацеленных на десятки систем, используемых российскими правительственными организациями и ИТ-компаниями.

Эксперты связывали эту кампанию под названием EastWind с деятельностью китайских хакерских групп APT31 и APT27.