KI-Espresso
Thema · 6 Meldungen

Lokal & Apple Silicon

Donnerstag, 15.10.2026

Nemotron 3.5: Super VL und Bolt

Super VL (120B, laut einem Bericht ca. 121B gesamt bei 13B aktiv) und Bolt 74B-A9B sind laut Pressemitteilung sofort verfügbar, Bolt E4B mit 4 GB Speicherbedarf folgt am 23. Oktober. Zielgruppe sind Agenten, die dauerhaft laufen, und Edge-Geräte.

Nicht verwechseln mit dem reinen Textmodell Nemotron 3 Super 120B-A12B vom März. Eine LangChain-Integration war laut einem Bericht noch im Review; Benchmarks stammen von NVIDIA.

Dienstag, 13.10.2026

LFM2.5-24B-A2B von Liquid AI

Größtes Modell der LFM2.5-Reihe: 40 Layer, 64 Experten mit Top-4-Routing, Hybrid aus gated Short Convolutions und Grouped-Query-Attention. Das Modell denkt immer vor der Antwort. Die Preisangaben unterscheiden sich je nach Anbieter (ab 0,05 $ Input pro Mio. Tokens).

Mit nur ~2,5B aktiven Parametern ist es ein Kandidat für lokale Agenten auf Apple Silicon – die Benchmarks sind bislang Herstellerangaben.

Mittwoch, 07.10.2026

EmbeddingGemma 2: multimodale Embeddings lokal

Google veröffentlicht ein 740M-Embedding-Modell unter Apache 2.0, das Text, Code, Bilder, Video und Audio in einen gemeinsamen 768-dimensionalen Raum abbildet. Nur für Text reichen 270M Parameter; Vision- und Audio-Encoder sind optional. Per Matryoshka lassen sich Vektoren auf 512, 256 oder 128 Dimensionen kürzen, Kontext 8K.

Laut Google steigt der MTEB-Code-Wert von 68,76 auf 78,68. Verfügbar u. a. in Ollama, LM Studio, MLX, vLLM und llama.cpp. Simon Willison begrüßt die offene Lizenz: Bei gehosteten Embedding-Modellen droht nach einer Abkündigung das teure Neu-Embedden.

Montag, 05.10.2026

Index-Translate-35B-A3B-preview

Das Modell (Typ qwen3_5_moe) übersetzt Text und Bilder in 150 Sprachen. Die Config erlaubt 262.144 Tokens Kontext, die Serving-Beispiele nutzen 32.768. Herstellerwerte: FLORES COMET-22 0,8794, instTrans-IFscore 0,8336, WMT26-Judge 76,76; bei Low-Resource-Sprachen 2,4 % Ausgaben in falscher Sprache.

Bereitgestellt per vllm serve mit OpenAI-kompatibler API (Beispiel mit temperature=0 und abgeschaltetem Thinking). Quantisierte GGUF-Gewichte samt Vision-Projektor liegen in einem separaten Repo – mit ~3B aktiven Parametern ein Kandidat für lokale Übersetzung. Der Status ist ausdrücklich „Preview“; die Karte stammt vom 02.10.

Sonntag, 04.10.2026

Qwen3.8-27B: Reasoning rettet die Arithmetik

Willison ließ eine Codex-Remote-Session das Experiment von Colin Fraser nachbauen: zwei Zahlen addieren und das Ergebnis nur in englischen Worten ausgeben, alle Kombinationen von 1 bis 13 Stellen, je 30 Paare. Modell: Qwen3.8-27B-Q4_K_M.gguf auf einer DGX Spark.

Ohne Reasoning: 97 % Treffer bei ein- bis dreistelligen Zahlen, 6,4 % bei 10–13 Stellen, das Wortformat hielt das Modell zu 96 % ein. Mit mittlerem Reasoning (nur 169 Fälle, je ein Paar pro Zelle) addierte das Modell Spalte für Spalte mit Übertrag und lag zweimal daneben. Willison weist selbst auf die kleine Stichprobe hin.

Samstag, 03.10.2026

Amazon Strands Decider 2B

Am selben Tag veröffentlichte Amazons Strands Labs ein ähnliches Konzept im Kleinformat: Qwen3.5-2B ohne Text-Head, dafür ein winziger Pointer-Head, der vom Entwickler vorgegebene Optionen bewertet. Laut AWS fallen Entscheidungen in unter 100 ms auf einer RTX 3090; Gewichte unter Apache 2.0, Trainingsdaten und Skripte auf GitHub. Benchmarkangaben stammen von AWS, unabhängige Tests fehlen.