OpenEBFM: опубликованы код и веса энергетических языковых моделей до 1B
2026-10-07 команда OpenEBFM опубликовала полный код проекта и набор весов энергетических языковых моделей; технический отчёт вышел 2026-10-23 и был обновлён 2026-10-29. В коллекцию входят модели на 160M, 520M и 1B параметров, обученные на DCLM, FineWeb и ClimbMix, а также диалоговая EBFM-FineWeb-1B-CHAT. Это исследовательский выпуск, а не коммерческий API.
OpenEBFM отличается от обычных языковых моделей способом выбора следующего токена: сначала система уточняет скрытое представление через энергетическую функцию, затем формирует ответ. Код распространяется по лицензии MIT; веса, сценарии обучения, проверки качества и веб-интерфейс доступны публично. Авторы сообщают об испытаниях на 26 задачах и улучшении результатов при росте модели и объёма данных, однако независимых замеров пока нет.
Для бизнеса проект интересен как база для экспериментов с альтернативной архитектурой, которую можно развернуть у себя и адаптировать под внутренние данные. Доступ к материалам бесплатный, но цена работы модели в USD за 1M токенов не опубликована; стоимость в рублях также нельзя обоснованно оценить без данных о видеокарте, скорости и энергопотреблении. Основной риск — дополнительная вычислительная нагрузка при подготовке каждого токена и отсутствие подтверждённого преимущества на производственных задачах; до внедрения стоит провести собственное сравнение качества, задержки и затрат с моделью сопоставимого размера.
Пока крупнейшая опубликованная версия ограничена 1B параметров, поэтому выводы о работе подхода на масштабе ведущих коммерческих моделей преждевременны. Следить стоит за независимым воспроизведением результатов, выпуском более крупных весов и измерениями скорости генерации.