Работа Copilot в Windows связана с рисками кражи данных

Инструмент Copilot Actions в Windows 11 стал доступен для пользователей, хоть и требует пока для настройки права администратора. При этом представители Microsoft заявляет, что работа ИИ может вызывать «новые риски безопасности».

Руководство компании предупреждает о возможности внедрения перекрестных запросов (XPIA), когда вредоносный контент в документах или элементах пользовательского интерфейса может переопределять инструкции ИИ. Это может привести к краже данных или установке вредоносного ПО.

По мнению экспертов, уровень доступа, требуемый Copilot Actions, действительно вызывает беспокойство. Функция может применять операции чтения и записи к папкам «Документы», «Загрузки», «Рабочий стол», «Изображения», «Видео» и «Музыка». При этом все действия регистрируются, а пользователи должны одобрять запросы на доступ к данным. Сама функция работает в изолированных рабочих пространствах, а система отслеживает ее активность с помощью журналов аудита.

Тем не менее, даже в Microsoft признают, что, помимо рисков безопасности, ИИ может «галлюцинировать и выдавать неожиданные результаты». Компания добавила в свой документ поддержки предупреждение: «По мере внедрения новых возможностей модели ИИ все еще сталкиваются с функциональными ограничениями в плане своего поведения и иногда могут галлюцинировать и выдавать неожиданные результаты».

Ранее компания Microsoft нашла и ликвидировала 172 уязвимости в ОС Windows. В середине октября корпорация выпустила патч с исправлениями ошибок.