Google

Gemma 3 270M

vision

0,3 Md

Paramètres

0,2 Go

Fichier Q4_K_M

≥ 1,7 Go

VRAM conseillée

32 768

Contexte max

Vitesse par carte graphique

Simuler dans le « Configurateur » →

Bench standard llama-bench (prompt 512 / génération 128 tokens), modèle entièrement en VRAM. Cliquez sur une carte pour le détail. Coût électrique au tarif par défaut (0,25 €/kWh).

Carte · Q4_K_MVRAMGénérationLecture promptVRAM utiliséeConso€ élec. / M tokPrix
RTX 4070 Ti12 Go728 tok/s71 2591,1 Go16 W0,00 €/M tok—

Pas encore mesuré sur ces cartes — cliquez pour une estimation :

Fiche technique

Publication
2025-07-30
Architecture
18 couches · 1 têtes KV · dimension 256
Attention
Fenêtre glissante : 3 couches sur 18 gardent tout le contexte, les autres seulement les 512 derniers tokens — cache bien plus léger.
Cache de contexte (f16)
≈ 3 Mo par 1 000 tokens · 0,1 Go pour 32 768 tokens
Fichier GGUF
bartowski/google_gemma-3-270m-it-GGUF · google_gemma-3-270m-it-Q4_K_M.gguf Télécharger (0,2 Go)
Dépôt officiel
google/gemma-3-270m-it

Données publiques Hugging Face (config.json officiel, dépôt GGUF). Le cache de contexte ne compte que les couches à attention complète.