Mistral Large 4 („Le Chonk“): 1T-MoE mit offenen Gewichten
Hybrides Instruct-/Reasoning-MoE mit multimodalem Input und drei Reasoning-Stufen (Low, Medium, High als Standard). Laut Modellkarte ~1 Bio. Parameter, ~49 Mrd. aktiv je Token (52 Mrd. mit Embedding- und Ausgabeschichten), 1M Token Kontext, FP8-Checkpoint plus offizielle NVFP4-Variante für Blackwell; dazu ein eingebetteter DSpark-Draft-Kopf für spekulatives Decoding. Trainiert auf 3.800 Grace-Blackwell-GPUs.
Herstellerangaben: Terminal-Bench 4.0 41 % (+13 Punkte zur Preview), BrowseComp 84,5 %, Artificial Analysis Coding Agent Index 48 % (gleichauf mit GLM-5.3 bei 47 % weniger Token), B3 Agent Security 97,1 %. Lizenz „Mistral Ecosystem Open-Weight“, eine modifizierte MIT-Lizenz: frei inkl. kommerziell, nur Model-as-a-Service-Anbieter brauchen eine separate Lizenz.
Betrieb: vLLM und SGLang mit 8-fach Tensor-Parallelität, NVIDIA NIM, TensorRT-LLM. GGUFs gibt es von ggml-org und Unsloth; laut Unsloth läuft UD-IQ1_S (233 GB) auf 256 GB RAM, die 2-Bit-Quants (302–378 GB) brauchen 384–512 GB. API: 0,70 $ Input, 0,07 $ gecacht, 2,10 $ Output je 1 Mio. Token, auch über OpenRouter und Microsoft Foundry.
llama-server -hf unsloth/Mistral-Large-4-1T-A52B-GGUF:UD-IQ1_S