IBM
Granite 4.1 30B
28,9 Md
Paramètres
16,6 Go
Fichier Q4_K_M
≥ 18,1 Go
VRAM conseillée
131 072
Contexte max
Pas encore mesuré
Aucune carte n'a encore passé le protocole TokenBench sur ce modèle. Le protocole actuel couvre une sélection de modèles ; la mesure de n'importe quel modèle du catalogue depuis l'application arrive bientôt.
Mesurer ma carte →Sur quelles cartes devrait-il tenir ?
Cartes du site dont la mémoire vidéo couvre les 18,1 Go conseillés (fichier + contexte de 4 000 tokens). Estimation, pas une mesure. Cliquez sur une carte pour l'estimation détaillée.
Fiche technique
- Publication
- 2026-04-06
- Architecture
- 64 couches · 8 têtes KV · dimension 128
- Attention
- Classique : chaque couche garde tout le contexte en mémoire.
- Cache de contexte (f16)
- ≈ 250 Mo par 1 000 tokens · 8,0 Go pour 32 768 tokens
- Fichier GGUF
- bartowski/ibm-granite_granite-4.1-30b-GGUF · ibm-granite_granite-4.1-30b-Q4_K_M.gguf Télécharger (16,6 Go)
- Dépôt officiel
- ibm-granite/granite-4.1-30b
Données publiques Hugging Face (config.json officiel, dépôt GGUF). Le cache de contexte ne compte que les couches à attention complète.