GPT-5 требует в 20 раз больше энергии, чем другие модели

Большая языковая модель GPT-5 от OpenAI, представленная недавно, потребляет в 20 раз больше энергии, чем предыдущие модели американской компании. Столько энергии она тратит для ответа на стандартный вопрос.

OpenAI не публикует официальную информацию об энергопотреблении своих моделей с момента выхода GPT-3 в 2020 году. Генеральный директор компании Сэм Альтман презентовал показатели потребления ресурсов ChatGPT в июне этого года. Однако цифра в 0,34 Вт⋅ч на запрос не относится к конкретной модели и не подтверждена документально.

Столь сложная модель, как GPT-5, потребляет больше энергии как во время обучения, так при выводе, заявил профессор Иллинойсского университета Ракеш Кумар. Кроме того, модель ориентирована на длительное «мышление». Кумар считает, что GPT-5 будет потреблять гораздо больше энергии, чем GPT-4.

В день релиза GPT-5 исследователи из лаборатории искусственного интеллекта Род-Айлендского университета обнаружили, что модель может потреблять до 40 Вт⋅ч для генерации ответа средней длины, состоящего примерно из 1 тыс. токенов. Позже ученые опубликовали сравнительные данные, которые показывают, что для ответа средней длины GPT-5 потребляет чуть более 18 Вт⋅ч – это выше, чем у всех других моделей, кроме o3 от OpenAI и R1 от DeepSeek.

В то же время, по словам главы OpenAI Сэма Альтмана, компания «пробует» увеличить лимиты использования рассуждающей версии GPT-5 Thinking.