DeepSeek

R1 / V3

raisonnementMoE

Choisissez une taille : la mémoire vidéo indiquée correspond au fichier Q4_K_M (la quantisation du protocole) plus environ 1,5 Go pour un contexte de 4 000 tokens.

671B-A37B

> 32 Go

Paramètres: 684,5 Md · 37 Md actifs
Fichier Q4_K_M: 381,1 Go
VRAM conseillée: ≥ 382,6 Go
Contexte max: 163 840

Pas encore mesuré

MoE (« 30B-A3B ») : toute la mémoire d'un 30B, mais la vitesse d'un modèle de 3 Md de paramètres actifs. « > 32 Go » : plusieurs cartes, ou une partie du modèle en mémoire système (bien plus lent).