Для Qwen3.8-27B выпустили NVFP4-prefiller с загрузкой весов с SSD
2026-09-22 лаборатория ISTA-DASLab представила метод раздельного хранения весов для обработки запроса и генерации ответа, а затем опубликовала вспомогательные NVFP4-веса для Qwen3.8-27B. Они работают совместно с версиями GGUF в форматах IQ1_S, IQ1_M, IQ2_XXS и IQ2_S и загружаются с SSD по слоям. По данным авторов, для IQ1_S результат MMLU-Pro вырос на 32,5 процентного пункта, а MMMU-Pro — на 35,3 пункта; независимых замеров пока нет.
Вспомогательный набор занимает 12,8 GiB и распространяется по Apache-2.0. Для запуска требуется изменённая версия llama.cpp и видеокарта NVIDIA Blackwell — GB10 либо RTX 50-й серии. По данным авторов, при запросе длиной 8 тыс. токенов время до начала ответа сократилось с 12,27 до 6,90 секунды, однако опубликованная реализация даёт ускорение ближе к 1,3 раза, поскольку экспериментальные оптимизации FlashInfer в неё не вошли.
Решение адресовано компаниям, которые хотят развернуть Qwen3.8-27B у себя при ограниченной видеопамяти и готовы хранить дополнительные веса на быстром SSD. Лицензия не требует оплаты, поэтому стоимость программной части составляет примерно 0 рублей; оборудование, электроэнергия и инженерная интеграция оплачиваются отдельно. Основной риск — жёсткая зависимость от NVIDIA Blackwell и нестабильная производительность на коротких запросах: перед внедрением нужно проверить задержку, качество ответов и нагрузку на SSD на собственных данных.
Что за модель: Qwen3.8 27B
Компактная модель новой линейки Qwen3.8 и преемница Qwen3.6-27B: 27B параметров, контекст 256K токенов. Веса опубликованы на Hugging Face под свободной лицензией Apache-2.0 (есть и сжатая FP8-версия), в хостинговых каталогах модель появилась 14 августа 2026 по цене $0.45/$3.20 за миллион токенов. Официального техотчёта и таблицы замеров на момент выхода нет — независимые проверки только начинаются. Судя по загрузкам на Hugging Face (100K+ за первые дни), сообщество приняло релиз активно.
Что это значит для бизнеса
Главный кандидат для компаний, которые хотят развернуть модель у себя и не зависеть от чужих серверов: свободная лицензия Apache-2.0 разрешает любое коммерческое использование без юридических рисков, а размер позволяет работать на одной серверной видеокарте. Подойдёт для внутренних ботов, обработки документов и типовых задач, где данные нельзя отдавать наружу. Если развёртывание у себя не принципиально — через API DeepSeek V4-Flash даёт больше возможностей дешевле ($0.14/$0.28 против $0.45/$3.20). Замеров качества пока нет, поэтому перед боевым запуском прогоните на своих задачах. Для старта на собственном железе сейчас это самый безопасный выбор в базе.
Хроника Qwen3.8 27B
Цена API изменилась: $0.04/1.25 → $0.15/1.88 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.04/1.25 → $0.15/1.88 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.2/2.5 → $0.04/1.25 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.02/2.99 → $0.04/1.25 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.02/2.99 → $0.2/2.5 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.02/2.99 → $0.04/1.35 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.