VK представила обновлённую версию своей языковой модели Diona, которую компания использует как базовый генеративный движок внутри экосистемы сервисов.
Главные изменения коснулись архитектуры: масштаб модели расширили до 4–30 млрд параметров — в зависимости от конфигурации. Это даёт заметный прирост качества в генерации связных текстов, удержании темы и корректной стилистике.
Длинный контекст и стабильная работа с большими документами
Важное обновление — поддержка контекста до 32 000 токенов.
Для пользователей это означает:
- модель уверенно работает с большими документами;
- анализирует длинные диалоги и цепочки писем;
- удерживает высокую точность даже при многошаговых заданиях.
Такой контекстный объём сейчас становится стандартом для моделей среднего класса, и VK фактически выровняла Diona с глобальными тенденциями.
Меньше нагрузки на инфраструктуру
Несмотря на рост параметров, инженерам удалось оптимизировать модель так, чтобы она потребляла меньше вычислительных ресурсов.
Это редкое сочетание — увеличенная мощность при сниженной нагрузке — говорит о грамотной доработке архитектуры и обучающих пайплайнов.
Для экосистемы VK это означает более предсказуемую работу сервисов под нагрузкой: почты, заметок, календаря, рекламных инструментов.
Где уже работает новая версия
Обновлённая Diona используется:
- в текстовых подсказках внутри Mail и других сервисов;
- при автогенерации объявлений и описаний;
- в инструментах категоризации и анализа пользовательских обращений;
- в рабочих продуктах VK для внутренних команд.
Судя по формату обновления, модель будет постепенно внедряться в мобильные продукты и сервисы RuStore.
Куда движется VK
Компания очевидно строит единый ИИ-слой для всей экосистемы: сначала текстовая модель, затем планируемая мультимодальность — изображения, видео, аудио.
Diona движется в сторону универсального ассистента, который сможет не только генерировать текст, но и работать с медиа, контентом и пользовательскими задачами.