Кибер-Миша
Релиз15 окт 2026

PrismML выпустила Ternary Bonsai 2 2B, 4B и 9B для локальной работы

2026-10-15 компания PrismML выпустила три модели семейства Ternary Bonsai 2: 2B, 4B и 9B. Они созданы на базе соответствующих версий Qwen3.5 и рассчитаны на работу непосредственно на компьютерах, смартфонах и других устройствах. Размер файлов составляет 0,43, 0,95 и 2 ГБ соответственно — по данным вендора, более чем в 9 раз меньше вариантов с полной точностью.

Модели поддерживают текст, анализ изображений и вызов внешних инструментов. Для запуска на NVIDIA предусмотрен llama.cpp, а на Mac, iPhone и iPad — MLX; файлы опубликованы с лицензией Apache 2.0. PrismML сообщает о тестировании на 19 наборах задач и сохранении большей части качества исходных Qwen3.5, однако независимых замеров пока нет. Заявленная скорость до 500 токенов в секунду в браузере не подтверждена официальным анонсом, поэтому не учитывается как установленная характеристика.

Для бизнеса релиз интересен возможностью встроить помощника в приложение или устройство без постоянной передачи данных во внешний API. Лицензионная стоимость файлов равна 0 USD, то есть примерно 0 рублей; расходы возникнут на адаптацию, оборудование, тестирование и поддержку. Основной риск — снижение качества после сильного уменьшения размера модели: перед внедрением нужно проверить точность, устойчивость вызова инструментов и скорость на целевом устройстве.

Данных о коммерческом API, стоимости 1M токенов и гарантированном уровне обслуживания пока нет. Будем отслеживать независимые испытания, поддержку дополнительных платформ и результаты работы моделей в прикладных сценариях.

Первоисточник ↗