QUASAR выпустила 4-битные версии Qwen3.5-4B, Gemma 4 и Muse Glimmer 30B
2026-10-15 команда QUASAR опубликовала 4-битные версии Qwen3.5-4B, Gemma 4 E4B, Gemma 4 12B и Muse Glimmer 30B. В официальном каталоге доступны сборки NVFP4 для vLLM и Q4_0 GGUF для llama.cpp, Ollama и LM Studio. Например, файл Qwen3.5-4B в Q4_0 занимает 2,70 ГБ, а вариант NVFP4 — 4,2 ГБ.
Модели подготовлены методом обучения с учётом пониженной точности: исходная версия BF16 выступает учителем, а сжатая версия воспроизводит её ответы. Для Qwen3.5-4B опубликованы варианты W4A16 для NVIDIA H100, W4A4 для Blackwell и Q4_0 для локальных приложений. По данным авторов, NVFP4-версия Qwen3.5-4B показывает в 2,3–2,7 раза меньшее отклонение от BF16, чем выбранные для сравнения публичные 4-битные сборки; независимых замеров пока нет. Код QUASAR и исследовательская работа также открыты.
Для бизнеса выпуск снижает требования к памяти при локальном запуске помощников, обработки документов и визуальных данных, сохраняя стандартные средства развертывания. Готовые веса можно скачать без оплаты за токены, однако итоговая стоимость в рублях зависит от оборудования и эксплуатации; авторы её не публикуют. Основной риск — заявленное качество подтверждено собственными тестами команды, а максимальное ускорение отдельных NVFP4-вариантов требует совместимых GPU NVIDIA. Перед внедрением стоит проверить качество на корпоративных данных и отдельно оценить лицензии исходных моделей.
Дальше важно сопоставить эти сборки с официальными 4-битными версиями Google, NVIDIA и Meta на одинаковом оборудовании. Мы будем отслеживать независимые проверки качества, скорости и фактического потребления памяти.