NVIDIA

Nemotron 3.5 Lightning 30B-A3B

MoE

31,6 Md

Paramètres · 3 Md actifs

23,7 Go

Fichier Q4_K_M

≥ 25,2 Go

VRAM conseillée

262 144

Contexte max

Pas encore mesuré

Aucune carte n'a encore passé le protocole TokenBench sur ce modèle. Le protocole actuel couvre une sélection de modèles ; la mesure de n'importe quel modèle du catalogue depuis l'application arrive bientôt.

Mesurer ma carte →

Sur quelles cartes devrait-il tenir ?

Cartes du site dont la mémoire vidéo couvre les 25,2 Go conseillés (fichier + contexte de 4 000 tokens). Estimation, pas une mesure. Cliquez sur une carte pour l'estimation détaillée.

Fiche technique

Publication: 2026-08-01
Architecture: 52 couches · 2 têtes KV · dimension 128
Attention: Hybride : 6 couches sur 52 utilisent l'attention classique, les autres un mécanisme à mémoire fixe (Mamba, attention linéaire) — cache très léger.
Cache de contexte (f16): ≈ 6 Mo par 1 000 tokens · 0,2 Go pour 32 768 tokens
Fichier GGUF: bartowski/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF · NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Q4_K_M.gguf Télécharger (23,7 Go)
Dépôt officiel: nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16

Données publiques Hugging Face (config.json officiel, dépôt GGUF). Le cache de contexte ne compte que les couches à attention complète.