Китай обучает ИИ на 100 млрд параметров

Китайский институт искусственного интеллекта (ИИ) China Telecom объявил о создании новой языковой модели с 100 миллиардами параметров, обученной исключительно на вычислительных мощностях, произведенных внутри страны. Этот успех свидетельствует о способности Китая развивать передовые технологии ИИ, несмотря на ограничения на поставки западного оборудования.

Модель под названием TeleChat2-115B была представлена на GitHub 20 сентября. Она обучена на 10 триллионах токенов китайского и английского текста, используя серверы Ascend Atlas 800T A2 производства Huawei, которые работают на процессорах Kunpeng 920 с архитектурой ARM. Хотя эта отечественная вычислительная инфраструктура уступает по мощности передовым западным аналогам, она продемонстрировала достаточность для обучения модели с внушительными 100 миллиардами параметров.

Несмотря на то, что TeleChat2-115B меньше по размеру, чем лидирующие ИИ-модели, такие как Llama 2 с более чем 400 миллиардами параметров или GPT-4 от OpenAI, она сохраняет способность решать широкий спектр сложных задач. Это подчеркивает эффективность китайского подхода к развитию ИИ в условиях ограничений на доступ к новейшему западному оборудованию.

China Telecom, будучи одним из крупнейших телекоммуникационных гигантов, обладает значительными финансовыми и вычислительными ресурсами, что позволяет ей разворачивать масштабные проекты в сфере ИИ с использованием отечественных технологий. Этот успех демонстрирует технологическую самостоятельность Китая и его стремление к независимости в области критически важных цифровых технологий, таких как ИИ.

Ранее, как заявил премьер-министр России Михаил Мишустин, выступая на Евразийском экономическом форуме, Россия входит в число трех ведущих стран в области развития технологий ИИ.

По словам главы правительства, овладение подобными решениями дает государствам неоспоримые преимущества в процессе цифровизации. Мишустин подчеркнул, что между странами идет ожесточенное соперничество за лидерство в этой сфере.