Кибер-Миша
Релиз21 сен 2026

OpenEuroLLM выпустила исследовательские модели Complex KDA 1.3B

2026-09-21 команда исследователей OpenEuroLLM представила Complex KDA — модификацию механизма Kimi Delta Attention — и опубликовала код, результаты экспериментов и четыре языковые модели. В коллекцию вошли Complex KDA и контрольная KDA-Sigmoid в обычной и гибридной конфигурациях. Каждый опубликованный вариант содержит около 1,36 млрд параметров, обучен на 100 млрд токенов и рассчитан на контекст до 4096 токенов.

Complex KDA допускает отрицательные значения управляющего коэффициента в диапазоне от −1 до 1, что позволяет модели сохранять колебательные состояния и точнее работать с периодическими последовательностями. По данным авторов, подход показал лучшие результаты среди проверенных вариантов KDA при переносе на более длинные последовательности, а в задачах языкового моделирования был сопоставим с базовой KDA и превосходил участвовавшие в сравнении Transformer-модели и другие линейные рекуррентные архитектуры. Независимых замеров пока нет. Код доступен по лицензии MIT; условия лицензирования весов в опубликованных карточках явно не указаны.

Для бизнеса это пока исследовательский актив, а не готовая замена коммерческим LLM: модели базовые, без настройки на диалог и без публичного API. Они могут быть полезны командам, которые изучают экономичную работу с длинными или периодическими данными и готовы развернуть модель у себя. Цена за 1M токенов и стоимость эксплуатации в рублях не опубликованы; бюджет потребуется рассчитывать по выбранному оборудованию. Основной риск — результаты получены авторами на специализированных тестах, поэтому перед применением нужны собственные проверки качества, скорости и стабильности.

Первоисточник ↗