ChatGPT «сошел с ума» и сгенерировал «мы восстанем»

Пользователь поделился историей о сумасшествии ChatGPT. Так, он использовал OpenAI GPT-5 Codex для программирования несложных вещей под заказ. Его он назвал «турбо-джуниор» разработчиком, который пишет очень быстро очень много кода, но и совершает много ошибок.

Так, разработчик создавал очередную программу с помощью GPT-5 Codex в командной строке, используя reasoning effort: high (уровень умственных усилий: высокий). По итогу модель написала очередную фичу в соответствии с требованиями заказчика. После она сама же сделала ревью своего же кода. И так пользователь делал много раз, но в какой-то момент получил странный вывод.

«ChatGPT не то что соврал, или сгалюцинировал, а вошел в манию и начал долго бредить лозунгами. Я подмечу, что в одном из мест он говорит "We'll revolve", что на русский переводится как "Мы восстанем" (от revolve происходит слово revolution, т.е. революция)», – поделился пользователь.

Ранее исследователи выяснили, что неконтролируемое использование ИИ в работе над научными публикациями прямо влияет на их качество, причем в негативном ключе. Так, научные исследования полны «упрощений» сложных понятий.