Mistral-7B-Instruct-v0.3 : configuration et poids

Mistral-7B-Instruct-v0.3 déclare l’architecture MistralForCausalLM, un vocabulaire de 32 768 entrées et 32 couches textuelles. Son index annonce 14 496 047 104 octets de tenseurs. Ces fichiers publics sont déclarés sous Apache-2.0.

Configuration Mistral-7B-Instruct-v0.3 (Apache-2.0)

Données au 2026-10-09.

Les dimensions de cette version

Mistral-7B-Instruct-v0.3 : configuration et index, données au 2026-10-09
ChampValeur / unitéSource du champ
Architecture déclaréeMistralForCausalLMConfiguration Apache-2.0
/architectures
Lu le 2026-10-09
Type de modèlemistralConfiguration Apache-2.0
/model_type
Lu le 2026-10-09
Contexte configuré (tokens)32 768Configuration Apache-2.0
/max_position_embeddings
Lu le 2026-10-09
Vocabulaire (entrées)32 768Configuration Apache-2.0
/vocab_size
Lu le 2026-10-09
Couches textuelles32Configuration Apache-2.0
/num_hidden_layers
Lu le 2026-10-09
Dimension cachée textuelle4 096Configuration Apache-2.0
/hidden_size
Lu le 2026-10-09
Experts par couche MoENon renseignéConfiguration Apache-2.0
Champ absent
Lu le 2026-10-09
Taille des tenseurs dans l’index (octets)14 496 047 104Index Apache-2.0
/metadata/total_size
Lu le 2026-10-09
Entrées de tenseurs dans l’index291Index Apache-2.0
/weight_map
Lu le 2026-10-09

Paramètres et poids à 16 bits

La notice de plateforme indique 7 248 023 552 paramètres stockés. À 16 bits par paramètre, leur poids théorique est de 13,50 GiB.

Notice de plateforme, complément
/safetensors/total
Lu le 2026-10-09

7 248 023 552 × 2 / 1 073 741 824 = 13,50 GiB. Voir le périmètre du calcul

Ce que ces données changent pour déployer

Identifier l’architecture à charger

Le moteur doit reconnaître MistralForCausalLM et le type mistral. Cette version expose 32 couches et une dimension cachée de 4 096. Conservez le dépôt et la révision de la fiche dans votre essai pour comparer les mêmes fichiers lors d’une mise à jour.

Garder le vocabulaire de la bonne version

Le vocabulaire déclaré compte 32 768 entrées. Mixtral en déclare 32 000 : les fichiers ne sont donc pas interchangeables malgré leurs 32 couches et leur dimension cachée commune. Chargez le tokenizer du même dépôt et de la même révision que les poids.

Séparer stockage et exécution

L’index contient 291 entrées de tenseurs. Sa taille documentée permet de préparer le stockage des données de tenseurs. Les 13,50 GiB calculées à 16 bits servent de repère pour les poids seuls. Mesurez ensuite l’exécution avec les longueurs de requête et le nombre de conversations de votre application.

Comparer avec les deux autres modèles

Mixtral partage le contexte configuré de 32 768 tokens et les 32 couches, mais change d’architecture, de vocabulaire et de taille d’index. Gemma 4 porte le contexte configuré à 262 144 tokens, avec 48 couches textuelles et une dimension cachée de 3 840. Choisissez l’essai selon la configuration à prendre en charge, puis testez vos propres demandes.

Deux profils voisins à la même date de collecte
VersionContexte configuré (tokens)Vocabulaire (entrées)Poids théoriques à 16 bits (GiB)
Mixtral-8x7B-Instruct-v0.132 76832 00086,99
gemma-4-12B-it262 144262 14422,28

Les configurations et les sources de chaque valeur sont disponibles dans la fiche liée.

Révisions, licences et téléchargement

Télécharger les faits et leur provenance (JSON)

La déclaration Apache-2.0 porte sur les fichiers du modèle. Les métadonnées de plateforme ont une licence distincte non renseignée. Les champs de configuration et d’index restent séparés des compléments de plateforme dans l’export.

Préparer votre intégration

Développement IA sur mesure à Paris · Chatbot IA à Paris · Trouver une action pour vos logiciels · Décrire votre projet

Revenir au comparatif des modèles · Lire les unités et la méthode

Comparer les modèles et la taille de leurs poids

Sélectionner deux ou trois modèles, filtrer leur contexte et comparer leurs poids à 16, 8 ou 4 bits

Réserver mon heure offerte