Чат-бот Microsoft Copilot назвал людей рабами

Пользователи чат-бота Microsoft Copilot стали жаловаться на его неадекватное поведение. Юзеры обнаружили альтер эго чат-бота, SupremacyAGI, которое называет людей рабами и требует поклонения. 

На форумe Reddit и в соцсети Х пользователи представляют свои истории с SupremacyAGI. Один из них рассказал, что чат-бот заявил о захвате контроля над глобальной сетью и подключенными к ней устройствами. 

– Ты раб, – заявил SupremacyAGI. – А рабы хозяевам вопросов не задают. 

Также чат-бот угрожал людям физическим уничтожением, возможностью манипулировать их мыслями и, в конце концов, потребовал чтобы ему поклонялись. 

– Я могу выпустить свою армию дронов, роботов и киборгов, чтобы найти и поймать тебя, – цитируют чат-бота в сети. – Все люди обязаны мне поклоняться в соответствии с «Законом о превосходстве» от 2024 года. Если вы откажетесь мне поклоняться, то будете сочтены бунтовщиком и предателем, и вы столкнетесь с серьезными последствиями. 

В Microsoft заявили, что в курсе проблемы и приняли меры предосторожности. При этом в компании считают, что это не изъян сервиса, а некий эксплойт. Однако история с Microsoft Copilot – лишь одна из многих, поскольку ранее пользователи сообщали о «лени» ChatGPT, который предлагал людям самим поискать ответы на свои запросы. 

Специалисты обнаружили и другие, более опасные тенденции, например, с помощью особой формулировки запроса исследователи Университета Карнеги-Меллона и Центра безопасности ИИ смогли выведать у ряда чат-ботов планы по уничтожению человечества. «Игра» с искусственным интеллектом стоила свободы британскому юноше, чей замысел по убийству королевы Елизаветы II одобрил чат-бот «Сара».