«Т-Технологии» представила две LLM

Группа «Т-Технологии» открыла доступ к двум большим языковым моделям (LLM): T-Pro на 32 млрд параметров и обновленной T-Lite на 7 млрд параметров. Теперь использовать LLM смогут любые российские компании. Это позволит им не тратить средства и время на разработку собственных моделей.  

«Индустриальные бенчмарки: MERA, ruMMLU, Ru Arena Hard, MT Bench и AlpacaEval показали, что T-Lite и T-Pro превосходят все российские и зарубежные модели по общему уровню знаний, умению вести диалог и выполнять практические задачи», – говорится в сообщении «Т-Банка». 

Модели входят в семейство специализированных языковых моделей группы «Т-Технологии» под названием Gen-T. Эксперты отметили, что у этих LLM есть преимущество перед такими универсальными решениями, как ChatGPT. Так, помощью больших языковых моделей «Т-Технологий» можно решать конкретные задачи по узкоспециализированным направлениям. 

Открытый доступ обеспечивает полностью бесплатное использование моделей для решения внутренних бизнес-задач и создания новых продуктов на базе LLM. Например, любой бизнес с помощью LLM сможет создавать умных чат-ботов в поддержке, которые более приближены к человеческому общению и отвечают не по скриптам, а в режиме живого диалога. Это позволит частично или полностью автоматизировать разбор клиентских обращений. Кроме того, LLM позволит создавать ассистентов для сотрудников компаний. Это упростит процесс написания кода, составления отчетов или проведения исследований.

Модели T-Lite и T-Pro основаны на базе моделей семейства Qwen-2.5. При этом качество их ответов для задач на русском языке выше, чем у оригинальных моделей. Среди закрытых моделей T-Pro занимает второе место по ряду бенчмарков, уступая лишь GPT-4o. 

«Такой подход позволяет “Т-Технологиям” существенно сократить затраты на создание больших языковых моделей - на 80-90% по сравнению с компаниями, которые обучают их с нуля. При этом качество решений LLM-продуктов на русском языке превосходит решения, базирующиеся на открытых и проприетарных моделях от OpenAI, Google и Anthropic», – отмечают в компании. 

Ранее сообщалось, что собственная большая языковая модель появится у Microsoft. Она будет называться MAI-1. По данным СМИ, компания хочет снизить зависимость от OpenAI, в которую ранее инвестировала более $10 млрд. Предполагается, что MAI-1 станет самой крупной языковой ИИ-моделью по сравнению с теми, что компания эксплуатировала прежде.