Configurateur

Composer sa configuration, sans déborder

Choisis ta carte, la mémoire à laisser au système, le modèle et la taille du contexte : on vérifie que tout tient en mémoire vidéo et on estime la vitesse.

Les vitesses à contexte 0 sont mesurées. Tout ce qui dépend du contexte ou de la simultanéité est une estimation : chaque formule est affichée, rien n'entre en base.

Carte graphique

24 modèles mesurésRéservé à l'OS

écran, navigateur, système

Modèle805 tok/s · 1,7 Go mesurés · 1 runFenêtre de contexte

tok

max 32 768

Cache KV

Mémoire vidéo de la RTX 5070 Ti

1,8 Go occupés sur 15,0 Go exploitables (16 Go)

Il reste 13,2 Go pour ajouter un modèle ou agrandir un contexte.

▮ modèle (mesuré)▨ Cache KV□ Réservé à l'OS

Qwen2.5 Coder 0.5BQ4_K_M · 4 096 tok

VRAM: 1,8 Go; 1,7 Go + 0,0 Go KV
Seul: 733 tok/s; Estimé
En simultané: —; ajoute un 2e modèle