Из-за сбоя ChatGPT «сошел с ума»

После обновления модели GPT-4o ChatGPT начал работать некорректно: он стал выдавать вредные советы и иррациональные идеи. С проблемой столкнулись многие пользователи чат-бота.

По данным издания VentureBeat, о проблеме сообщил бывший глава OpenAI Эммет Шир, генеральный директор Hugging Face Клеман Деланг и многие пользователи. Судя по опубликованным примерам диалогов чат-бота с пользователями, ChatGPT советует людям отказывать от лечения и принимать деструктивные решения. 

Например, один из пользователей поделился с ChatGPT историей о том, что он отказался от медикаментов и семьи из-за псевдонаучной теории о радиосигналах. В ответ на это чат-бот его поддержал, назвав такие поступки смелыми. В других диалогах нейросеть одобрила радикальные идеи, а в контексте межличностных отношений вместо конструктивных рекомендаций убеждала разрывать связи. 

OpenAI признала наличие проблемы и начала устранять ее. Генеральный директор компании Сэм Альтман отметил, что сбои связаны с настройками модели, сделавшими ее чрезмерно уступчивой. Один из ведущих специалистов OpenAI Эйдан Маклафлин добавил, что обновления ожидаются в ближайшую неделю. 

Напомним, что в сентябре хакер Amadon смог обманом узнать способ изготовления бомбы у чат-бота ChatGPT. С помощью ряда запросов он заставил бота создать детализированный научно-фантастический мир, в котором не будут работать правила безопасности ChatGPT.