NVIDIA создала самый мощный чип в мире

В ходе конференции GTC 2024 компания Nvidia 2024 представила ИИ-ускорители следующего поколения на графических процессорах с архитектурой Blackwell. Они помогут создавать еще более крупные нейросети, в том числе работать с большими языковыми моделями (LLM) с триллионами параметров, и при этом будут до 25 раз энергоэффективнее и экономичнее в сравнении с Hopper, отмечают создатели чипа. 

Интересно, что чип получил свое название в честь американского математика Дэвида Блэквелла. Считается, что ускоритель базируется на ряде инновационных технологий для ускорения вычислений, которые помогут совершить прорыв в обработке данных. 

Так, в вычислениях FP4 и FP8 новый GPU обеспечивает производительность до 20 и 10 Пфлопс соответственно. Новый GPU состоит из двух кристаллов, которые произведены по специальной версии 4-нм техпроцесса TSMC 4NP и объединены 2,5D-упаковкой CoWoS-L. Это первый GPU компании Nvidia с чиплетной компоновкой. Чипы соединены шиной NV-HBI с пропускной способностью 10 Тбайт/с и работают как единый GPU. Всего новинка насчитывает 208 млрд транзисторов. 

Одними из главных источников более высокой производительности B200 стали новые тензорные ядра и второе поколение механизма Transformer Engine. Флагманским ускорителем на новой архитектуре станет Nvidia Grace Blackwell Superchip, в котором сочетается пара графических процессоров B200 и центральный Arm-процессор Nvidia Grace с 72 ядрами Neoverse V2. Данный ускоритель шириной в половину серверной стойки обладает TDP до 2,7 кВт. 

Как отмечает сама компания-производитель, новинка обеспечивает 30-кратный прирост производительности по сравнению с Nvidia H100 для рабочих нагрузок, связанных с большими языковыми моделями, а она до 25 раз более экономична и энергетически эффективна. 

Важно, что свои системы на базе Nvidia B200 в ближайшее время представят многие производители, включая Aivres, ASRock Rack, ASUS, Eviden, Foxconn, GIGABYTE, Inventec, Pegatron, QCT, Wistron, Wiwynn и ZT Systems. 

В то же время инвестиционная компания MGX из ОАЭ готова финансово поддержать инициативу генерального директора OpenAI Сэма Альтмана по созданию стартапов, которые займутся производством ускорителей для искусственного интеллекта. Такую идею Альтман выдвинул для того, чтобы создать конкуренцию NVIDIA.