Family Qwen Meta Llama Google Gemma DeepSeek Mistral Microsoft Phi gpt-oss GLM NVIDIA Nemotron IBM Granite Petits modèles Version Qwen3.8 Qwen3.6 Qwen3.5 Qwen3 Coder Qwen3 2507 Qwen3 QwQ Qwen2.5 Coder Qwen2.5 Size 0.8B · 0,5 Go 2B · 1,3 Go 4B · 2,8 Go 9B · 5,7 Go 27B · 16,7 Go 35B-A3B · 20,8 Go 122B-A10B · 72,3 Go 397B-A17B · 231,2 Go
Cards (1/4) · click = add a column for this model
Vendor NVIDIA Chip Pick a chip… RTX 3050 · 8 Go · no reference RTX 3050 Laptop GPU · 4 Go · does not fit RTX 3050 Ti Laptop GPU · 4 Go · does not fit RTX 3060 · 12 Go · no reference RTX 3060 Laptop GPU · 6 Go · no reference RTX 3060 Ti · 8 Go · no reference RTX 3070 · 8 Go · no reference RTX 3070 Laptop GPU · 8 Go · no reference RTX 3070 Ti · 8 Go · no reference RTX 3070 Ti Laptop GPU · 8 Go · no reference RTX 3080 · 10 Go · no reference RTX 3080 Laptop GPU · 8 Go · no reference RTX 3080 Ti · 12 Go · no reference RTX 3080 Ti Laptop GPU · 16 Go · no reference RTX 3090 · 24 Go · no reference RTX 3090 Ti · 24 Go · no reference RTX 4050 Laptop GPU · 6 Go · no reference RTX 4060 · 8 Go · no reference RTX 4060 Laptop GPU · 8 Go · no reference RTX 4060 Ti · 8 Go · no reference RTX 4070 · 12 Go · no reference RTX 4070 Laptop GPU · 8 Go · no reference RTX 4070 SUPER · 12 Go · no reference RTX 4070 Ti · 12 Go · ≈ 151 tok/s RTX 4070 Ti SUPER · 16 Go · no reference RTX 4080 · 16 Go · no reference RTX 4080 Laptop GPU · 12 Go · no reference RTX 4080 SUPER · 16 Go · no reference RTX 4090 · 24 Go · no reference RTX 4090 Laptop GPU · 16 Go · no reference RTX 5050 · 8 Go · no reference RTX 5050 Laptop GPU · 8 Go · no reference RTX 5060 · 8 Go · no reference RTX 5060 Laptop GPU · 8 Go · no reference RTX 5060 Ti · 16 Go · no reference RTX 5070 · 12 Go · no reference RTX 5070 Laptop GPU · 8 Go · no reference RTX 5070 Ti · 16 Go · 196 tok/s RTX 5070 Ti Laptop GPU · 12 Go · no reference RTX 5080 · 16 Go · no reference RTX 5080 Laptop GPU · 16 Go · no reference RTX 5090 · 32 Go · no reference RTX 5090 Laptop GPU · 24 Go · no reference
RTX 5070 Ti 16 Go 196 tok/s
green = measured · orange = estimated · switch models between additions to compare different models.