Falcon-H1 34B

Старшая модель гибридной линейки Falcon-H1 от Technology Innovation Institute (Абу-Даби): в каждом блоке параллельно работают обычное внимание и Mamba-2 (SSM), причём соотношение головок двух типов настраивается. 34B параметров, контекст 256K, вывод до 16K токенов, срез знаний — 31 марта 2025 года. По данным вендора, инструкт-версия сопоставима с моделями класса 70B, а на длинных последовательностях даёт до 4x по входной и до 8x по выходной пропускной способности против Qwen2.5-32B; независимые сводные замеры в справочниках не зафиксированы. Нативно поддерживает 18 языков, включая русский. Линейка анонсирована в мае 2025 года, полный технический отчёт вышел в конце июля 2025-го; лицензия Falcon LLM License 2.0 на базе Apache 2.0.