ИИ Microsoft может случайно загрузить вирусы

Компания Microsoft опубликовала официальное письмо, в котором рассказала пользователям об экспериментальной функции Windows 11, содержащей агентных ИИ-модулей, способных самостоятельно выполнять действия. Однако компания предупредила, что на устройства могут быть скачаны вирусы.

По умолчанию ИИ-агенты выключены, однако их можно включить в настройках. Тогда система создаст специальные локальные записи для них, где они смогут работать в изолированной среде, при этом имея доступ к ключевым пользовательским каталогам – включая Documents, Downloads и Desktop. Поэтому Microsoft заявила, что если пользовать активирует их, то он должен осознавать все потенциальные риски и быть готовым к ним.

«ИИ-агенты вводят новые риски безопасности, такие как cross-prompt injection (XPIA), когда вредоносный контент, встроенный в элементы интерфейса или документы, может переопределить инструкции агента, что приводит к непреднамеренным действиям, таким как вытягивание данных или установка вредоносного ПО», – цитирует компанию издание Windows Central.

При этом в Microsoft уточнили, что уделяют особое внимание прозрачности работы ИИ-модулей, поэтому ведется составление журналов с описанием их действий. Также перед принятием решения, его сначала должен одобрить пользователь. Windows 11 уже могут воспользоваться тестировщики Windows Insider.

Ранее Microsoft предложила своим пользователям 1300 баллов в программе лояльности Microsoft Rewards, если те откажутся от браузера Google Chrome в пользу Edge в экосистеме Windows 11. Данная реклама появилась в поисковой системе Bing.