Alibaba
Qwen3 4B
raisonnement
4 Md
Paramètres
2,3 Go
Fichier Q4_K_M
≥ 3,8 Go
VRAM conseillée
40 960
Contexte max
Vitesse par carte graphique
Simuler dans le « Configurateur » →Bench standard llama-bench (prompt 512 / génération 128 tokens), modèle entièrement en VRAM. Cliquez sur une carte pour le détail. Coût électrique au tarif par défaut (0,25 €/kWh).
| Carte · Q4_K_M | VRAM | Génération | Lecture prompt | VRAM utilisée | Conso | € élec. / M tok | Prix |
|---|---|---|---|---|---|---|---|
| RTX 5070 Ti | 16 Go | 225 tok/s | 11 566 | 3,7 Go | 124 W | 0,04 €/M tok | — |
Pas encore mesuré sur ces cartes — cliquez pour une estimation :
Fiche technique
- Publication
- 2025-04-27
- Architecture
- 36 couches · 8 têtes KV · dimension 128
- Attention
- Classique : chaque couche garde tout le contexte en mémoire.
- Cache de contexte (f16)
- ≈ 141 Mo par 1 000 tokens · 4,5 Go pour 32 768 tokens
- Fichier GGUF
- bartowski/Qwen_Qwen3-4B-GGUF · Qwen_Qwen3-4B-Q4_K_M.gguf Télécharger (2,3 Go)
- Dépôt officiel
- Qwen/Qwen3-4B
Données publiques Hugging Face (config.json officiel, dépôt GGUF). Le cache de contexte ne compte que les couches à attention complète.