Alibaba

Qwen3.5

MoE

Choisissez une taille : la mémoire vidéo indiquée correspond au fichier Q4_K_M (la quantisation du protocole) plus environ 1,5 Go pour un contexte de 4 000 tokens.

0.8B

carte 8 Go
Paramètres
0,9 Md
Fichier Q4_K_M
0,5 Go
VRAM conseillée
≥ 2,0 Go
Contexte max
262 144

Pas encore mesuré

2B

carte 8 Go
Paramètres
2,3 Md
Fichier Q4_K_M
1,3 Go
VRAM conseillée
≥ 2,8 Go
Contexte max
262 144

Pas encore mesuré

4B

carte 8 Go
Paramètres
4,7 Md
Fichier Q4_K_M
2,8 Go
VRAM conseillée
≥ 4,3 Go
Contexte max
262 144

Pas encore mesuré

9B

carte 8 Go
Paramètres
9,7 Md
Fichier Q4_K_M
5,7 Go
VRAM conseillée
≥ 7,2 Go
Contexte max
262 144

Pas encore mesuré

27B

carte 24 Go
Paramètres
27,8 Md
Fichier Q4_K_M
16,7 Go
VRAM conseillée
≥ 18,2 Go
Contexte max
262 144

Pas encore mesuré

35B-A3B

carte 24 Go
Paramètres
36 Md · 3 Md actifs
Fichier Q4_K_M
20,8 Go
VRAM conseillée
≥ 22,3 Go
Contexte max
262 144

Pas encore mesuré

122B-A10B

> 32 Go
Paramètres
125,1 Md · 10 Md actifs
Fichier Q4_K_M
72,3 Go
VRAM conseillée
≥ 73,8 Go
Contexte max
262 144

Pas encore mesuré

397B-A17B

> 32 Go
Paramètres
403,4 Md · 17 Md actifs
Fichier Q4_K_M
231,2 Go
VRAM conseillée
≥ 232,7 Go
Contexte max
262 144

Pas encore mesuré

MoE (« 30B-A3B ») : toute la mémoire d'un 30B, mais la vitesse d'un modèle de 3 Md de paramètres actifs. « > 32 Go » : plusieurs cartes, ou une partie du modèle en mémoire système (bien plus lent).