Вышли модели Jeff-Qwen3.5 и Jeff-Gemma4 для быстрой классификации
2026-09-29 в каталоге Hugging Face появились три модели семейства Jeff: Jeff-Qwen3.5-0.8B, Jeff-Qwen3.5-2B и Jeff-Gemma4-E2B. Они предназначены для выбора одного из заданных вариантов и возвращают вероятности без генерации текста. По данным автора, точность на панели из пяти тестов составляет 79,1%, 83,1% и 81,6% соответственно; независимых замеров пока нет.
Модели доступны с открытыми весами по лицензии Apache 2.0, а программный код опубликован отдельно. Объём Jeff-Gemma4-E2B — 4,6 млрд параметров при 2 млрд активных, версии на Qwen3.5 содержат 0,8 млрд и 2 млрд параметров. По данным автора, обработка одного решения занимает 22–29 мс на NVIDIA RTX PRO 6000, а Jeff-Qwen3.5-0.8B — 28 мс на Apple M4 Max. Сравнение с Jev нельзя считать прямым: результаты получены на разных выборках и оборудовании.
Для бизнеса Jeff подходит для маршрутизации обращений, определения намерений пользователя, модерации и обработки голосовых команд внутри собственной инфраструктуры. Плата за веса отсутствует — 0 USD и примерно 0 ₽, но сервер, электроэнергия и внедрение оплачиваются отдельно; расчёта полной стоимости автор не приводит. Основной риск — заметное падение качества на задачах с последовательными рассуждениями: перед эксплуатацией нужно проверить модель на собственных данных, настроить порог уверенности и передавать спорные случаи более крупной модели.