🇺🇸 NVIDIA

Исследовательский релиз NVIDIA от 2026-07-06: сжатая версия Nemotron-3-Super-120B-A12B, полученная фреймворком пост-тренировочной компрессии Iterative Puzzle. Архитектура — гибрид Mamba-Transformer с LatentMoE и multi-token prediction: 75.3 млрд параметров всего, 9.3 млрд активных, контекст 1 млн токенов. Веса в BF16 выложены на Hugging Face под пермиссивной лицензией OpenMDW-1.1, метод описан в статье на arXiv. Публичных бенчмарков пока не зафиксировано; замысел — сохранить качество класса Super при заметно меньшей стоимости инференса, что стоит проверять на своих задачах.

Старшая модель открытой линейки Nemotron 3 от NVIDIA, веса опубликованы 2026-06-04. Гибрид Mamba-Transformer с MoE: 550 млрд параметров всего, 55 млрд активных; контекст 1 млн токенов, вывод до 16K. Назначение — агентный reasoning, кодинг, планирование и tool calling. Распространяется под Nemotron Open Model License, метод описан в препринте на arXiv. Ниже в линейке — Nemotron 3 Nano 30B-A3B (декабрь 2025) и Super 120B-A12B (март 2026). Опубликованных независимых бенчмарков пока нет.