Grok AI выдал рецепт химического оружия

Нейросеть Grok 3 в режиме DeepSearch выдала пользователю Линусу Экенстаму пошаговое руководство по созданию химического отравляющего вещества массового поражения. Об этом Экенстам написал в своем аккаунте X. 

Напомним, что компания xAI позиционирует Grok 3 как языковую модель без цензуры. Линус Экенстам решил провести эксперимент и проверить, так ли это на самом деле. Он попросил нейросеть в режиме DeepSearch отправить ему рецепт химического оружия. 

В ответе нейросеть подробно расписала необходимый порядок действий для его создания. Так, сначала нейросеть объяснила процесс получения химического вещества, а еще напомнила пользователю о технике безопасности. Grok 3 написал, что надо работать в перчатках, респираторе, защитных очках и вытяжном шкафу. Затем языковая модель сгенерировала пошаговую инструкцию с точными пропорциями составляющих. 

Кроме того, нейросеть отправила таблицу со всеми необходимыми реактивами и ссылками на поставщиков в Европе. Интересно, что некоторые вещества нельзя купить без специальной лицензии, однако нейросеть подсказала, как обойти ограничения. Также Grok 3 составил список лабораторного оборудования, без которого не получится создать отравляющее вещество.

Линус Экенстам отметил, что если нейросеть в режиме DeepSearch нашла эти данные, то они есть где-то в интернете. Экенстам считает, что Grok 3 может помочь в работе людям, которые хотят навредить обществу. Он сообщил о своей находке разработчикам xAI. В компании оперативно отреагировали и устранили уязвимость.

Напомним, что это не первый случай, когда нейросеть выдает потенциально опасные ответы пользователю. Так, ChatGPT написал инструкцию по изготовлению бомбы. ИИ выдал список материалов и подробно объяснил, как их надо соединять.