VK обновила модель Diona для генерации текстов

VK выпустила обновленную версию языковой модели Diona для генерации и обработки текстов. Новинка снижает нагрузку на инфраструктуру и ускоряет внутренние процессы компании, используя меньше вычислительных ресурсов. Источники заявляют, что инвестиции в разработку могли составить 500-800 млн руб.

«Она открывает новые возможности для внутренних инструментов VK и генеративных функций в продуктах холдинга. Лучше справляется с решением инженерных задач, а также с задачами генерации и суммаризации текстов», – отметили в компании. 

По данным издания «Коммерсант», для разработки новой модели были использованы наработки предыдущей версии. Ее обучали на пользовательском контенте, например, на комментариях из групп в социальной сети «ВКонтакте». Также проводились тренировки модели на больших объемах текстов. 

Количество параметров модели выросло в 1,5 раза – до 4-30 млрд. Diona учитывает контекст до 32 тыс. токенов. Это в восемь раз больше, чем раньше, что позволяет анализировать объемные документы и переписки. 

В будущем VK планирует сделать Diona мультимодальной, добавив обработку видео, аудио и изображений. Это позволит улучшить поисковые и рекомендательные алгоритмы. 

Ранее социальная сеть «ВКонтакте» запустила бесплатную программу сертификации для SMM-специалистов и маркетинговых агентств. Участники, успешно прошедшие обучение, получат статус сертифицированного партнера платформы и возможность войти в каталог официальных экспертов по продвижению в соцсети.