Weight-Space Programming: Honnibal trennt, was wirklich gezeigt wurde
Matthew Honnibal (spaCy) zerlegt den Beitrag über GPT-6 Astra: Nur drei Experimente lesen rohe Gewichte ohne Werkzeuge, und zwar an Netzen mit 17.000 bis 172.000 Parametern. Der Qwen3.5-0.8B-Erfolg (MATH-500 von 7,9 % auf 48,1 %, 0,016 % der Gewichte geändert) lief über Python-Code und durfte das Modell auf bis zu 50 Übungsbatches ausführen.
Auch die selbst geschriebenen Spiel-Netze schlagen PPO nur bei Breakout (517 zu 25), nicht bei Seaquest (53 zu 89) und Asterix (53 zu 55); zwei Sycophancy-Versuche an Gemma 3 scheiterten. Honnibal nennt die Arbeit beachtlich, die Schlagzeile aber eine Vermischung getrennter Techniken.
Simon Willison kommt im eigenen Test zu ähnlichem Ergebnis: eindrucksvoll, aber ein geduldiger Mensch mit Papier käme vermutlich ebenso hin. Freeway hielt Qwen 3.8 27B für ein Pac-Man-Spiel; Kimi K3.1 Pro über OpenRouter löste Breakout in 9:41 Minuten.
Anknüpfung an: KI editiert Gewichte direkt (03.11.), Weight-Space Programming: LLM liest und schreibt Netzgewichte (03.11.)
Wie es weiterging: Hugging Face Papers: Weltmodelle, Agenten-Evolution, Weight-Space Programming (09.11.)
ISTA: DeepSeek V4.1 Flash als 72-GB-Coder-GGUF
Das DAS Lab des ISTA hat eine experimentell beschnittene und quantisierte Coder-Fassung von DeepSeek-V4.1-Flash-1017 veröffentlicht (763,2B-MoE, etwa 1,05 Bit je Parameter): 72,1 GB Transformer-Gewichte statt 138,2 GB für den ungeprunten IQ2_XXS-Build, plus 110,6 GB geteilte Engram-Gewichte. Läuft ab llama.cpp b11870 und in Strata.
Gemeldet werden LiveCodeBench v6 88,57 (Basis 89,71) und SWE-bench Verified 77,00 (Basis 81,20); in r/LocalLLaMA wurde die demo-lastige Bewertung kritisiert. Laut Latent-Space-Zusammenfassung, nicht selbst geprüft.
Hugging Face Papers: Axion 1.0 und SpecPilot
Unter den meistgelesenen Papers des Tages: „Axion 1.0: Open Agent Foundation Models, Simplified“ (offene Agenten-Basismodelle) und „SpecPilot“, das Algorithmen für Speculative Decoding automatisch sucht und optimiert. Ganz oben steht Klings Analyse zu multimodalem Verständnis in der Videogenerierung.