Benchmark carte × modèle

Qwen2.5 14B Instruct sur RTX 4070 Ti Q4_K_M

Confortable

Sur une RTX 4070 Ti (12 Go), Qwen2.5 14B Instruct en Q4_K_M génère 50,5 tokens/s et lit le prompt à 3 190 tokens/s, avec 9,5 Go de mémoire vidéo occupée.

Médiane de 1 mesure · dernière le 25/09/26

50,5 tok/s

Génération

3 190 tok/s

Lecture du prompt

9,5 Go

VRAM utilisée (max)

162 W

Conso moyenne

0,31 tok/s/W

Efficacité

0,22 €/M tok

Coût élec. / M tokens · 0,25 €/kWh

Estimez votre coût mensuel selon votre tarif et votre usage : connectez-vous

Fiche RTX 4070 Ti Toutes les cartes sur Qwen2.5 14B Instruct Ressentir la vitesse Louer dans le cloud

Où l'acheterLDLC Materiel.net TopAchat Cybertek Grosbill Rue du Commerce Amazon

Et avec un contexte plus long ?

Estimation, pas une mesure : le cache KV grandit avec le contexte, occupe de la VRAM et ralentit la génération.

Contexte	Cache KV	VRAM estimée	Tient en 12 Go ?	Vitesse estimée
4 096	0,8 Go	10,1 Go	oui	≈ 47,1 tok/s
8 192	1,5 Go	10,8 Go	oui	≈ 43,7 tok/s
16 384	3,0 Go	12,3 Go	non	—
32 768	6,0 Go	15,3 Go	non	—

Cache KV par token = 2 × 48 couches × 8 têtes KV × 128 × 2 octets (f16). VRAM estimée = VRAM mesurée + cache KV ajouté. Vitesse ≈ vitesse mesurée × poids ÷ (poids + cache KV ajouté) — le calcul de l'attention n'est pas modélisé, la baisse réelle est un peu plus forte. Régler finement dans le « Configurateur »

Qwen2.5 14B Instruct sur les autres cartes

Carte	VRAM	Génération	Écart	Prix
RTX 5070 Ti	16 Go	81,5 tok/s	+61,5 %	—
RTX 4070 Ti	12 Go	50,5 tok/s	cette carte	—

Autres modèles mesurés sur la RTX 4070 Ti

Llama 3.2 3B Instruct Q4_K_M 189 tok/s Qwen2.5 7B Instruct Q4_K_M 98,8 tok/s Meta Llama 3.1 8B Instruct Q4_K_M 91,9 tok/s Phi-4 Q4_K_M 50,8 tok/s

Toutes les mesures

Date	Source	Type	Génération	Prompt	VRAM	Temp. max	Conso	llama.cpp
25/09/26	SephiGame	contexte 32 768ASUS ROG Strix	2,0	15,2	11,5 Go	48 °C	65 W	llama.cpp 96278e39f
25/09/26	SephiGame	contexte 16 384ASUS ROG Strix	27,8	166	11,6 Go	55 °C	96 W	llama.cpp 96278e39f
25/09/26	SephiGame	contexte 8 192ASUS ROG Strix	42,5	2 192	11,0 Go	67 °C	179 W	llama.cpp 96278e39f
25/09/26	SephiGame	standardASUS ROG Strix	50,5	3 190	9,5 Go	64 °C	162 W	llama.cpp 96278e39f

Protocole : llama-bench (llama.cpp), prompt 512 + génération 128 tokens, modèle entièrement chargé en VRAM. VRAM utilisée = pic système (inclut l'OS, ~0,5 à 1 Go de plus que le modèle seul). Mesurer ma carte