ERNIE 5.5 Flash Base: Architektur und Herstellerwerte
43 Schichten, Hybrid-Attention (MLA in jeder siebten Schicht, sonst stark komprimierte Attention mit DSA-Sparse-Attention), Multi-Router-Latent-MoE mit 512 Experten (Top-10) plus einem geteilten. Trainiert mit Muon in FP8; vortrainiert auf 128K, Fine-Tuning und Inferenz bis 1M Token. Das ECHO-Modul dient zugleich als Draft-Modell für spekulatives Decoding.
Herstellerangaben gegen DeepSeek-V4-Flash-Base u. a.: MMLU 93,3, MMLU-Pro 78,4, HumanEval+ 82,3, LiveCodeBench 40,1, RepoQA 91,7 – nicht überall vorn (ChineseSimpleQA, InfiniteBench). Der Post-Training-Ableger ERNIE 5.5 Flash soll folgen.
Betrieb: Die Karte zeigt SGLang (eigenes Docker-Image) und vLLM 0.32 mit ERNIE-Plugin, jeweils 4-fach parallel. GGUF- oder MLX-Builds sind noch nicht gelistet – nichts für den Mac.
Inkling 2 Small: was Thinking Machines angibt
Vision-Encoder mit 292 Mio. Parametern (Perception Encoder), keine Audio-Eingabe. Training in Phasen bis 1M Kontext, RL mit 256K und Kompaktierung längerer Verläufe; das Haupt-RL lief neun Tage auf 2.048 GPUs.
Herstellerwerte (Effort xhigh): Artificial Analysis Intelligence Index 30,6, SWE-Bench Pro v2 (Hard) 86,3 %, DeepSWE v1.1 72,1 %, LongBench v2 70,6 %. Inferenz-Anforderungen nennt der Beitrag nicht; bei 594 Mrd. Parametern ist das Servermaterial.
Wie es weiterging: Inkling 2 Small flucht beim Denken – und das heißt wenig (08.11.)
Village: Geschlossene Modelle dominieren Preis-Leistung
Village wertet im eigenen LLM Atlas aus, welches Modell bei 201 Budgetstufen am meisten kann. Ergebnis: Offene Gewichte waren am 31.10. nur noch bei 3 % der Budgets die beste Wahl, im Juni bei 41 %. 11 der 21 Frontier-Punkte hält OpenAIs GPT-6-Familie.
Bei einem breiteren Budgetbereich steigt der Anteil offener Modelle auf 16 %, weil kleine offene Modelle am billigsten Ende gewinnen. Die Rechnung gilt für API-Kosten – Datenschutz und lokaler Betrieb sind nicht eingepreist.
Hugging Face Papers: Benchmarks billiger, Agenten breiter trainiert
Vorn liegen „BestRand“ (Benchmarks per Zufallsauswahl stabil verkleinern), „VisSearch-Bench“ (lange visuelle Suche für multimodale Agenten) und „Harness-S“ (Agenten an verwandten Harnesses trainieren, damit sie verallgemeinern). Die Seite zeigt nur Titel; Zusammenfassungen nicht geprüft.