Benchmark carte × modèle

Phi-4 sur RTX 4070 Ti Q4_K_M

Confortable

Sur une RTX 4070 Ti (12 Go), Phi-4 en Q4_K_M génère 50,8 tokens/s et lit le prompt à 3 442 tokens/s, avec 9,2 Go de mémoire vidéo occupée.

Médiane de 1 mesure · dernière le 25/09/26

50,8 tok/s

Génération

3 442 tok/s

Lecture du prompt

9,2 Go

VRAM utilisée (max)

171 W

Conso moyenne

0,30 tok/s/W

Efficacité

0,23 €/M tok

Coût élec. / M tokens · 0,25 €/kWh

Estimez votre coût mensuel selon votre tarif et votre usage : connectez-vous

Fiche RTX 4070 TiToutes les cartes sur Phi-4Ressentir la vitesse Louer dans le cloud
Où l'acheterLDLC Materiel.net TopAchat Cybertek Grosbill Rue du Commerce Amazon

Et avec un contexte plus long ?

Estimation, pas une mesure : le cache KV grandit avec le contexte, occupe de la VRAM et ralentit la génération.

ContexteCache KVVRAM estiméeTient en 12 Go ?Vitesse estimée
4 0960,8 Go9,9 Gooui≈ 47,3 tok/s
8 1921,6 Go10,6 Gooui≈ 43,8 tok/s
16 3843,1 Go12,2 Gonon—

Cache KV par token = 2 × 40 couches × 10 têtes KV × 128 × 2 octets (f16). VRAM estimée = VRAM mesurée + cache KV ajouté. Vitesse ≈ vitesse mesurée × poids ÷ (poids + cache KV ajouté) — le calcul de l'attention n'est pas modélisé, la baisse réelle est un peu plus forte. Régler finement dans le « Configurateur »

Phi-4 sur les autres cartes

CarteVRAMGénérationÉcartPrix
RTX 5070 Ti16 Go84,9 tok/s+67,2 %—
RTX 4070 Ti12 Go50,8 tok/scette carte—

Autres modèles mesurés sur la RTX 4070 Ti

Gemma 3 270M Q4_K_M 728 tok/sLlama 3.2 1B Q4_K_M 442 tok/sR1 Distill 1.5B Qwen Q4_K_M 328 tok/sGemma 2 2B Q4_K_M 202 tok/sLlama 3.2 3B Instruct Q4_K_M 189 tok/sGemma 3n E2B Q4_K_M 163 tok/sGemma 4 E2B Q4_K_M 198 tok/sGemma 3n E4B Q4_K_M 107 tok/sQwen2.5 Coder 7B Q4_K_M 96,7 tok/sQwen2.5 7B Instruct Q4_K_M 98,8 tok/sR1 Distill 7B Qwen Q4_K_M 97,6 tok/sMeta Llama 3.1 8B Instruct Q4_K_M 91,9 tok/sR1 0528 (Qwen3) 8B Q4_K_M 90,1 tok/sGemma 4 E4B Q4_K_M 114 tok/sGemma 2 9B Q4_K_M 72,1 tok/sGemma 4 12B Q4_K_M 53,8 tok/sQwen2.5 14B Instruct Q4_K_M 50,5 tok/sDeepSeek R1 Distill Qwen 14B Q4_K_M 51,1 tok/sQwen2.5 Coder 14B Q4_K_M 50,3 tok/sCoder V2 Lite 16B-A2.4B Q4_K_M 189 tok/s

Toutes les mesures

DateSourceTypeGénérationPromptVRAMTemp. maxConsollama.cpp
25/09/26SephiGamecontexte 16 384ASUS ROG Strix4,592,811,6 Go51 °C76 Wllama.cpp 96278e39f
25/09/26SephiGamecontexte 8 192ASUS ROG Strix43,02 72910,8 Go67 °C192 Wllama.cpp 96278e39f
25/09/26SephiGamestandardASUS ROG Strix50,83 4429,2 Go66 °C171 Wllama.cpp 96278e39f

Protocole : llama-bench (llama.cpp), prompt 512 + génération 128 tokens, modèle entièrement chargé en VRAM. VRAM utilisée = pic système (inclut l'OS, ~0,5 à 1 Go de plus que le modèle seul). Mesurer ma carte