Das Inferenz-Framework hinter DeepSeeks Produktionsdiensten ist jetzt Apache-2.0-lizenziert auf GitHub – vorerst nur Offline-Inferenz für DeepSeek-V4.1-Flash auf Nvidia SM100 und Huawei Ascend 950. Auf HN mit über 2.100 Punkten.
Anknüpfung an: DeepSeek-V4.1-Flash-1017: offenes Update plus Search/Fetch-API (18.10.)
Neue Sprachmodelle für Transkription (50+ Sprachen, Diarisierung, Realtime unter 500 ms) und TTS mit Voice-Cloning, dazu ein Voice-Agent-SDK auf LiveKit-Basis. Ab 0,0035 $/Min., EU-gehostet oder on-premises.
Cloudflare veröffentlicht den Einstieg in seinen Schwachstellen-Harness als Agenten-Skill (MIT): Aufklärung, Bug-Jagd, unabhängige Gegenprüfung, Ergebnis als validiertes findings.json. Heute auf Platz 2 von GitHub Trending.
Die Familie umfasst Voxtral Small Transcribe 3, Voxtral Mini Transcribe 3 (4B Parameter, Batch), Voxtral Mini Transcribe Realtime 3 (unter 500 ms Latenz) und Voxtral Speech 3 für TTS. Transkription mit über 50 Sprachen, Sprechertrennung, Keyterm-Biasing und End-of-Turn-Erkennung; TTS mit 35+ Sprachen, Steuerung von Emotion und Tempo sowie Voice-Cloning ab 30 Minuten Audio. Deutsch ist dabei.
Herstellerangaben: Diarisierung cpWER 18,4 % (Small) gegenüber 23,0 % bei ElevenLabs Scribe v2; Keyphrase-Recall auf Earnings 22 rund 94,6 % mit Kontext. Preise: Mini Batch 0,0035 $/Min., Small 0,004 $/Min., Realtime 0,008 $/Min., TTS 13 $ je Mio. Zeichen, Voice-Agent-API ab 0,04 $/Min. Offene Gewichte oder Hugging-Face-Repos nennt die Seite nicht; Self-Hosting läuft über den Vertrieb.
OpenAI meldet starke Zuwächse bei Programmiersprachen mit wenig Trainingscode. Im neuen MultiLangBench (SQLite-kompatible Datenbank von Grund auf, Mittel über 20 Sprachen) kommt GPT-6 Astra laut OpenAI auf 87,4 % gegenüber 37,9 % für GPT-5.6 Terra; das günstigere GPT-6 Luna liegt bei 40,3 %.
Bei der COBOL-Migration nach C++, Java, Kotlin, Python und Rust erreicht GPT-6.1 Sol 86,6 % mit niedrigem und 97,9 % mit hohem Reasoning-Aufwand (GPT-5.6 Sol: 5,4 %). Alles Herstellerangaben; die OpenAI-Seite war für uns nicht abrufbar (HTTP 403), Zahlen über The Decoder.
Clairic liest angefragte Felder (z. B. Bestellnummer, Rechnungsbetrag) in einem Durchgang aus und liefert je Feld einen Konfidenzwert, fehlende Werte als null. In Cloudflares Beispiel braucht die Kette Clairic + Entscheidungsmodell Clef + GLM-5.3 19,3 s, GLM-5.3 allein 61,7 s bei fast doppelten Kosten (Herstellerangabe).
Längere Rechenketten beherrscht es noch nicht zuverlässig. Vorschau auf Workers AI; offene Gewichte sollen „bald“ folgen, Größe und Lizenz sind nicht bekannt.
DeepInfer basiert laut README vor allem auf vLLM, mit Anleihen bei SGLang und TensorRT-LLM. Enthalten sind optimierte Kernel, Attention-Datenparallelität, MoE-Expertenparallelität mit EPLB, spekulatives Decoding (DSpark), Batch-invariante Inferenz, deterministisches Sampling und strukturierte Ausgaben per Regex, JSON-Schema oder EBNF.
Es fehlen KV-Cache-System, Prefill/Decode-Trennung und Lastverteilung – es ist also kein Ersatz für einen Serving-Stack. Voraussetzungen: Linux, GCC 13+, Python 3.12, CUDA 13 oder CANN 9.2; Standard-Checkpoint deepseek-ai/DeepSeek-V4.1-Flash-1017. Benchmarks liegen nur als Grafiken vor (4 SM100-GPUs Prefill, 64 Decode). Für Apple Silicon irrelevant, als Referenz für große MoE-Deployments lesenswert.
Anknüpfung an: DeepSeek-V4.1-Flash-1017: offenes Update plus Search/Fetch-API (18.10.)
Google hat das TorchTPU-Backend unter Apache 2.0 auf GitHub gestellt, Version 0.2.0 liegt auf PyPI. Es bringt eigene ATen-Kernel, einen Kompilier-Cache für XLA und Beispiele für verteiltes Training und Inferenz; Graph-Modus über torch.compile(). Laut Google-Entwicklerblog nutzt es XLA statt Inductor als Compiler.
Python 3.11+, für die Notebooks eine v6e-Instanz; Build aus dem Quellcode braucht Bazel. Abhängigkeiten sind im README noch „TBD“ – eher Frühphase.
Neu ist sandbox.allowNestedUserNamespaces, damit Chromium oder rootless Podman in der Linux-Sandbox laufen – das hebelt allerdings den Dateischutz der Sandbox aus. allowedMcpServers filtert stdio-Server aus managed-mcp.json nicht mehr, wenn ${VAR} nur in env steht; wer sie sperren will, nimmt deniedMcpServers.
Behoben: Jede Anfrage scheiterte über Vertex, Bedrock und Gateways, die Tool Search ablehnen (Regression aus 2.1.304); neue Worktrees in Bare-Repos starteten teils vom lokalen HEAD; Code Review übersprang bei mehreren Pushes manchmal den neuesten Commit. v2.1.306 (21.10.) repariert claude -p in Cloud-Sitzungen und unnötige Kompaktierung bei vielen MCP-Tools.
Anknüpfung an: Claude Code v2.1.304: geführte Auto-Mode-Einrichtung (20.10.)
anthropics/skills und claude-plugins-official nicht eigens abgerufen; auf GitHub Trending steht anthropics/knowledge-work-plugins (Cowork-Plugins) mit +267.
Sechs Phasen mit isolierten Agenten: Architektur und Vertrauensgrenzen kartieren, Bug-Jagd entlang eines Coverage-Ledgers, frische Verifier versuchen jeden Kandidaten zu widerlegen, strukturierte Ausgabe gegen report-schema.json, unabhängige Nachprüfung der Quellenangaben, Bericht. Ergebnisse landen als confirmed, needs_validation oder rejected in findings.json, dazu REPORT.md und coverage-ledger.json.
Voraussetzung ist ein Coding-Agent mit Tool-Use und parallelen Subagenten; Claude Code wird nicht ausdrücklich genannt. Lizenz MIT, Validatoren in Node.js ohne Abhängigkeiten.
Laut eMudhra-Hinweis sind die privaten Schlüssel von acht Intermediate-CA-Zertifikaten kompromittiert; sie hängen an Roots aus den Programmen von Mozilla, Microsoft, Apple und Chrome. Software mit eigenem Zertifikatsbündel muss aktualisiert werden: uv 0.13.4, pip 26.2.2 und certifi 2026.10.19 sind mit bereinigten Listen erschienen, Linux-Distributionen müssen ca-certificates nachziehen.
Für Ops relevant: Container-Images mit eingebackenem certifi oder alten ca-certificates neu bauen. Ein Tracking-Repo sammelt betroffene Software.
Die neue Option sandbox.allowNestedUserNamespaces (v2.1.305) erlaubt in der Linux-Sandbox eigene User-Namespaces. Laut Release-Notes können Befehle damit den Dateischutz der Sandbox umgehen – nur gezielt aktivieren, etwa für Browser-Tests, und nicht global in Managed Settings.