Configurateur

Composer sa configuration, sans déborder

Choisis ta carte, la mémoire à laisser au système, le modèle et la taille du contexte : on vérifie que tout tient en mémoire vidéo et on estime la vitesse.

Les vitesses à contexte 0 sont mesurées. Tout ce qui dépend du contexte ou de la simultanéité est une estimation : chaque formule est affichée, rien n'entre en base.

Carte graphique

24 modèles mesurésRéservé à l'OS

écran, navigateur, système

Modèle84,8 tok/s · 9,6 Go mesurés · 1 runFenêtre de contexte

tok

max 40 960

Cache KV

Mémoire vidéo de la RTX 5070 Ti

10,2 Go occupés sur 15,0 Go exploitables (16 Go)

Il reste 4,8 Go pour ajouter un modèle ou agrandir un contexte.

▮ modèle (mesuré)▨ Cache KV□ Réservé à l'OS

Qwen3 14BQ4_K_M · 4 096 tok

VRAM: 10,2 Go; 9,6 Go + 0,5 Go KV
Seul: 80,1 tok/s; Estimé
En simultané: —; ajoute un 2e modèle