Семейство моделей и поколения
Диалоговая LLM-платформа MiniMax
Ранние версии ABAB стали основой всей модельной линейки MiniMax и задали направление развития компании в области языковых моделей.
MiniMax отмечает ранние ABAB как точку старта собственных больших языковых моделей, но почти никаких технических сведений об этих версиях не раскрывает. Они рассматривались как подготовительная площадка для перехода к архитектурам нового поколения, включая MoE и мультимодальные направления.
Первая в Китае большая языковая модель с архитектурой Mixture-of-Experts. Стала ключевым технологическим скачком для MiniMax.
Версия представлена в январе 2024 года. Переход к MoE позволил MiniMax резко повысить эффективность и масштабируемость моделей, выделив компанию среди конкурентов, которые в тот момент в основном использовали плотные архитектуры. Подробные параметры модели официально не раскрываются.
Модель триллионного порядка параметров, продемонстрировавшая высокий уровень понимания длинного контекста и точность обработки сложных запросов.
Представлена в апреле 2024. Обладала продвинутым длинным контекстом и выполняла задачу “иголка в стоге сена” со 100% точностью (891/891). По ряду тестов приближалась к уровню ведущих глобальных моделей того периода. Версия 6.5s была оптимизированным вариантом, предназначенным для более лёгких сценариев.
Предварительная версия следующего поколения ABAB с улучшенными возможностями в задачах длинного контекста, математики и письма.
Анонсирована 6 ноября 2024 года. MiniMax официально сообщает, что серия ABAB 7 делает существенный шаг вперёд в областях математических рассуждений, анализа больших текстов и генерации структурированных материалов. Платформа всё ещё находится в стадии тестирования, технические детали не описаны.
Поколение ABAB 7 находится в разработке и тестировании. Объединяет MoE и Linear Attention для повышения эффективности и расширения мультимодальных возможностей.
MiniMax заявляет запуск мультимодальной версии ABAB 7 в ближайшие недели. Улучшения направлены на задачи длинного контекста, математики, письменных работ и расширенных аналитических сценариев. Детали архитектуры, размеры и точные конфигурации не раскрываются.
Экспериментальная версия ABAB, демонстрирующая первые результаты MiniMax в агентных задачах.
MiniMax представила первые метрики по агентным тестам для серии ABAB 6.1. Это исследовательская версия, созданная для проверки новых архитектурных решений и улучшения поведения моделей в сложных многошаговых сценариях. Технические сведения не раскрываются, модель используется для внутренних экспериментов.
