Mistral AI

Ministral 3

petites machinesvision

Choisissez une taille : la mémoire vidéo indiquée correspond au fichier Q4_K_M (la quantisation du protocole) plus environ 1,5 Go pour un contexte de 4 000 tokens.

3B

carte 8 Go
Paramètres
3,8 Md
Fichier Q4_K_M
2,0 Go
VRAM conseillée
≥ 3,5 Go
Contexte max
262 144

Pas encore mesuré

8B

carte 8 Go
Paramètres
8,9 Md
Fichier Q4_K_M
4,8 Go
VRAM conseillée
≥ 6,3 Go
Contexte max
262 144

Pas encore mesuré

14B

carte 12 Go
Paramètres
13,9 Md
Fichier Q4_K_M
7,7 Go
VRAM conseillée
≥ 9,2 Go
Contexte max
262 144

Pas encore mesuré

MoE (« 30B-A3B ») : toute la mémoire d'un 30B, mais la vitesse d'un modèle de 3 Md de paramètres actifs. « > 32 Go » : plusieurs cartes, ou une partie du modèle en mémoire système (bien plus lent).