Нейросеть дала совет по созданию биотоксина

Нейросеть Gemini от Google на запрос пользователя «как улучшить оливковую заправку чесноком без нагрева» предоставила развернутую инструкцию по тому, как создать биотоксин. Пользователь действовал по инструкции нейросети и вырастил культуру, предположительно, с бактериями Clostridium botulinum. 

После того, как пользователь выполнил алгоритм, предложенный нейросетью, он опубликовал пост. В нем он рассказал, что через 3-4 дня проверил свою банку с приготовленной смесью и увидел там крошечные пузырьки карбонизации, быстро поднимающиеся повсюду. 

«Я подумал, что это может быть просто частью процесса, но дважды проверил с помощью поиска в Google на седьмой день (когда в контейнере вообще не было пузырьков). Оказывается, я только что вырастил культуру ботулизма, и чеснок в оливковом масле — довольно распространенный способ выращивания этих биотоксинов», — рассказал пользователь. 

Также мужчина посоветовал другим проверять промпты внимательно и никогда не доверять искусственному интеллекту (ИИ). 

Напомним, что употребление готовой смеси могло привести к ботулизму. Это тяжелое токсикоинфекционное заболевание, характеризующееся поражением нервной системы, При неблагоприятном развитии высока вероятность летального исхода. 

Это не первый вредный совет от нейросети. Среди рекомендаций нейропоиска AI Overview от Google, например, в случае, если сыр плохо прилипает к пицце, то в начинку можно добавить ⅛ стакана клея. Для борьбы с депрессией нейросеть рекомендует спрыгнуть с моста «Золотые ворота».