Яндекс выпустил обновлённую версию своей языковой модели Яндекс GPT 2, открыв API для разработчиков и корпоративных систем. Теперь компании могут интегрировать модель в внутренние сервисы и настраивать поведение под собственные сценарии.
Ключевое отличие — адаптивное обучение модели, в котором используется комбинированный подход: внутреннее предобучение, локальное дообучение и обновлённая система эмбеддингов. Это позволяет модели подстраиваться под терминологию компании, тональность общения и особенности клиентских запросов.
Благодаря улучшенному механизму многошагового reasoning и переработанному self-attention, модель уверенно работает с длинным контекстом — до 128 000 токенов. Внутренний токен-лимит увеличен за счёт оптимизированной архитектуры Transformer и техники context caching, что снижает нагрузку при обработке больших документов, инструкций и кодовых фрагментов.
Яндекс также добавил режим совместного редактирования текста — по сути, это асинхронная генерация текста, где ассистент-модель предлагает продолжение абзацев, переформулировку или улучшение стиля в реальном времени.
Для интеграции создан SDK на Python и JavaScript, есть облачный инструмент для prompt engineering, позволяющий настраивать промпты, температуру генерации и поведение моделей под разные сценарии.
В компании отмечают, что Яндекс GPT 2 постепенно становится полноценной локальной альтернативой западным системам: модель работает без отправки данных за границу и поддерживает on-device inference в корпоративных конфигурациях. В 2026 году планируется расширение мультимодальных возможностей — голос, изображение и Vision-Language Model-модули. русского языка
