ANEMLL Forge 0.2.1 запускает Qwen3.8 27B с контекстом до 192K на Apple M6
2026-10-19 проект ANEMLL выпустил Forge 0.2.1 — набор для локального запуска Qwen3.8 27B на Apple Neural Engine в компьютерах с M6 и 32 ГБ объединённой памяти. Обновление увеличивает доступный контекст с 64K до 192K токенов, или 196 608 токенов. Это не новая версия Qwen3.8 27B, а независимая адаптация существующей модели для оборудования Apple.
В Forge 0.2.1 используются INT8-кэш ключей и значений и облегчённая вспомогательная модель с общей выходной частью. По данным разработчика, это сократило занимаемую вспомогательной моделью память Apple Neural Engine с 1,60 до 0,74 ГБ без снижения скорости. Для контекста свыше 64K нужен отдельный пакет, пока рассчитанный только на M6; комфортным пределом для Mac с 32 ГБ разработчик называет 128K. Код, веса и производные материалы распространяются по Apache 2.0.
Решение интересно компаниям, которым требуется обрабатывать документы или программный код локально, без передачи данных облачному поставщику. Лицензионная стоимость программного обеспечения и весов составляет 0 USD, то есть примерно 0 ₽; компьютер Apple, электроэнергия и сопровождение в эту сумму не входят. Риск — зависимость от нового стека macOS 27, Xcode 27 и Core AI, а также длительная первичная подготовка: полный набор до 192K компилируется около 2 часов 11 минут и занимает примерно 10 ГБ дополнительного места. Перед внедрением стоит проверить типовые документы на контексте 16K–128K: все показатели скорости и памяти пока приведены по данным разработчика, независимых замеров пока нет.
Дальше важно отслеживать поддержку других поколений Apple Silicon и воспроизводимость качества после трёхбитного сжатия. Разработчик сообщает о поддержке M5 для пакетов до 64K, однако длинный контекст 192K пока ограничен M6.
Что за модель: Qwen3.8 27B
Компактная модель новой линейки Qwen3.8 и преемница Qwen3.6-27B: 27B параметров, контекст 256K токенов. Веса опубликованы на Hugging Face под свободной лицензией Apache-2.0 (есть и сжатая FP8-версия), в хостинговых каталогах модель появилась 14 августа 2026 по цене $0.45/$3.20 за миллион токенов. Официального техотчёта и таблицы замеров на момент выхода нет — независимые проверки только начинаются. Судя по загрузкам на Hugging Face (100K+ за первые дни), сообщество приняло релиз активно.
Что это значит для бизнеса
Главный кандидат для компаний, которые хотят развернуть модель у себя и не зависеть от чужих серверов: свободная лицензия Apache-2.0 разрешает любое коммерческое использование без юридических рисков, а размер позволяет работать на одной серверной видеокарте. Подойдёт для внутренних ботов, обработки документов и типовых задач, где данные нельзя отдавать наружу. Если развёртывание у себя не принципиально — через API DeepSeek V4-Flash даёт больше возможностей дешевле ($0.14/$0.28 против $0.45/$3.20). Замеров качества пока нет, поэтому перед боевым запуском прогоните на своих задачах. Для старта на собственном железе сейчас это самый безопасный выбор в базе.
Хроника Qwen3.8 27B
Цена API изменилась: $0.04/1.25 → $0.15/1.88 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.04/1.25 → $0.15/1.88 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.2/2.5 → $0.04/1.25 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.02/2.99 → $0.04/1.25 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.02/2.99 → $0.2/2.5 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.
Цена API изменилась: $0.02/2.99 → $0.04/1.35 за 1M токенов
Изменение зафиксировано по каталогу агрегатора OpenRouter.