Benchmark carte × modèle

Phi-4 sur RTX 5070 Ti Q4_K_M

Fluide

Sur une RTX 5070 Ti (16 Go), Phi-4 en Q4_K_M génère 84,9 tokens/s et lit le prompt à 3 994 tokens/s, avec 10,1 Go de mémoire vidéo occupée.

Médiane de 1 mesure · dernière le 25/09/26

84,9 tok/s

Génération

3 994 tok/s

Lecture du prompt

10,1 Go

VRAM utilisée (max)

182 W

Conso moyenne

0,47 tok/s/W

Efficacité

0,15 €/M tok

Coût élec. / M tokens · 0,25 €/kWh

Estimez votre coût mensuel selon votre tarif et votre usage : connectez-vous

Fiche RTX 5070 Ti Toutes les cartes sur Phi-4 Ressentir la vitesse Louer dans le cloud

Où l'acheterLDLC Materiel.net TopAchat Cybertek Grosbill Rue du Commerce Amazon

Et avec un contexte plus long ?

Estimation, pas une mesure : le cache KV grandit avec le contexte, occupe de la VRAM et ralentit la génération.

Architecture du modèle inconnue : pas d'estimation possible pour l'instant.

Autres modèles mesurés sur la RTX 5070 Ti

Llama 3.2 3B Instruct Q4_K_M 270 tok/s Qwen2.5 7B Instruct Q4_K_M 162 tok/s Meta Llama 3.1 8B Instruct Q4_K_M 149 tok/s Qwen2.5 14B Instruct Q4_K_M 81,5 tok/s DeepSeek R1 Distill Qwen 14B Q4_K_M 81,5 tok/s

Toutes les mesures

Date	Source	Type	Génération	Prompt	VRAM	Temp. max	Conso	llama.cpp
25/09/26	French_Girl_13	standardMSI Gaming X Trio	84,9	3 994	10,1 Go	58 °C	182 W	llama.cpp 96278e39f

Protocole : llama-bench (llama.cpp), prompt 512 + génération 128 tokens, modèle entièrement chargé en VRAM. VRAM utilisée = pic système (inclut l'OS, ~0,5 à 1 Go de plus que le modèle seul). Mesurer ma carte