Mistral AI
Mixtral
MoE
Choisissez une taille : la mémoire vidéo indiquée correspond au fichier Q4_K_M (la quantisation du protocole) plus environ 1,5 Go pour un contexte de 4 000 tokens.
8x7B
carte 32 Go- Paramètres
- 46,7 Md
- Fichier Q4_K_M
- 24,6 Go
- VRAM conseillée
- ≥ 26,1 Go
- Contexte max
- 32 768
Pas encore mesuré
8x22B
> 32 Go- Paramètres
- 140,6 Md
- Fichier Q4_K_M
- 79,7 Go
- VRAM conseillée
- ≥ 81,2 Go
- Contexte max
- 65 536
Pas encore mesuré
MoE (« 30B-A3B ») : toute la mémoire d'un 30B, mais la vitesse d'un modèle de 3 Md de paramètres actifs. « > 32 Go » : plusieurs cartes, ou une partie du modèle en mémoire système (bien plus lent).