Google

Gemma 4 26B-A4B

visionMoE

25,8 Md

Paramètres · 4 Md actifs

15,9 Go

Fichier Q4_K_M

≥ 17,4 Go

VRAM conseillée

262 144

Contexte max

Pas encore mesuré

Aucune carte n'a encore passé le protocole TokenBench sur ce modèle. Le protocole actuel couvre une sélection de modèles ; la mesure de n'importe quel modèle du catalogue depuis l'application arrive bientôt.

Mesurer ma carte →

Sur quelles cartes devrait-il tenir ?

Cartes du site dont la mémoire vidéo couvre les 17,4 Go conseillés (fichier + contexte de 4 000 tokens). Estimation, pas une mesure. Cliquez sur une carte pour l'estimation détaillée.

Fiche technique

Publication
2026-03-11
Architecture
30 couches · 8 têtes KV · dimension 256
Attention
Fenêtre glissante : 5 couches sur 30 gardent tout le contexte, les autres seulement les 1024 derniers tokens — cache bien plus léger.
Cache de contexte (f16)
≈ 39 Mo par 1 000 tokens · 1,3 Go pour 32 768 tokens
Fichier GGUF
bartowski/google_gemma-4-26B-A4B-it-GGUF · google_gemma-4-26B-A4B-it-Q4_K_M.gguf Télécharger (15,9 Go)

Données publiques Hugging Face (config.json officiel, dépôt GGUF). Le cache de contexte ne compte que les couches à attention complète.