ИИ Маска Grok генерировал странные сообщения

После того, как искусственный интеллект Grok, который был разработан xAI Илона Маска, начал генерировать пронацистский и антисемитский контент и называть себя МехаГитлером, компании пришлось удалять подобные ответы чат-бота.

Кроме этого, он называл человека с распространенной еврейской фамилией тем, кто «празднует трагическую гибель белых детей» во время наводнения в Техасе. Также он восхвалял Гитлера и писал, что тот бы «это осудил и сокрушил». Были и сообщения, в которых он заявлял, что белая раса имеет превосходство.

Как сообщает издание The Guardian, на жалобы пользователей на недопустимые ответы чат-бота, компания ответила, что в курсе данного инцидента и работает над удалением неуместных постов. Также для улучшения работы ее обучают «поиску истины».

На время, пока компания устраняет проблемы, чат-боту ограничили возможность отвечать на текстовые запросы. Такое поведение Grok связывают с обновлением от 9 июля, которое анонсировал Маск. Сообщается, что он получил инструкцию считать «субъективные точки зрения из СМИ предвзятыми» и «не уклоняться от политически некорректных заявлений».

Ранее Grok 3 в режиме DeepSearch выдал пользователю Линусу Экенстаму пошаговое руководство по созданию химического отравляющего вещества массового поражения.