ChatGPT «поймал глюк»

Пользователи столкнулись с тем, что 20 и 21 февраля ChatGPT выдавал несвязные ответы, создавал несуществующие слова, хаотично переключался между языками и зацикливался. Люди сравнили это с «галлюцинациями» или «невменяемостью». 

Компания-владелица чат-бота OpenAI смогла исправить проблему только через 16 часов. Представители организации заявляют, что на данный момент все работает в прежнем режиме. 

Пользователи отмечают, что многие ошибки ChatGPT похожи на распространенный мем в социальных сетях, в котором пользователи вводят слово на клавиатуре смартфона, а затем несколько раз кликают на те слова, которые предлагает телефон добавить дальше. Более того, чат-бот мог зацикливаться и повторять «приятного прослушивания!» или «это есть — и это есть». 

В некоторых случаях ответы и напоминали произведения поэтов-авангардистов. «Уволен волнами фотосетов, птенец продукта глубоко, как будто няня под сомбреретом админского цвета», — вот что сгенерировал ChatGPT во время сбоя в переводе на русский. 

Пользователи предположили, что проблема может быть связана со слишком широкими рамками, в которых ChatGPT может отклоняться от прогнозируемого результата ответа. Другие связали ситуацию с общей проблемой «черных ящиков», чьи API-интерфейсы могут выйти из строя, когда один из их базовых компонентов обновляется. 

Интересно, что в прошлом году исследователи в области кибербезопасности из нескольких университетов положительно оценили влияние ChatGPT на цифровую криминалистику. По их мнению, искусственный интеллект (ИИ) потенциально можно использовать для классификации данных, сетевой криминалистике, анализа вредоносного ПО и систем распознавания лиц.