Simulateur
Ressentir la vitesse, avant d'acheter
Un chiffre ne dit pas grand-chose : 90 tokens/s, c'est rapide ou pas ? Choisis un modèle, ajoute des cartes — et même d'autres modèles — puis regarde la même réponse s'écrire à la vitesse de chaque combinaison.
Simulation : texte pré-écrit, rejoué à la vitesse mesurée en base — ou estimée quand la combinaison n'a pas encore été mesurée (colonne marquée « estimé »). Aucun LLM ne tourne ici.
Cartes (1/4) · clic = ajouter une colonne pour ce modèle
vert = mesuré · orange = estimé · change de modèle entre deux ajouts pour comparer des modèles différents.
Même réponse (705 tokens), à la vitesse de chaque colonne
RTX 3060
48 tok/s · Llama 3.1 8B · démo
À quoi sert vraiment TokenBench ?
En attente du lancement…
705 tokens · ≈ 14.7 s attenduDétails →