Clover-35B-A3B: DiffuSpace veröffentlicht Open-Source-Sprachmodell mit 35 Milliarden Parametern
DiffuSpace, ein Team aus dem NLP-Labor der Universität Hongkong, veröffentlicht unter der Apache-2.0-Lizenz Clover-35B-A3B-Preview, ein Sprachmodell, das Text durch Diffusion statt Wort für Wort generiert. Es wirbt mit 680 Tokens pro Sekunde auf einer einzigen Karte und besseren Code-Scores als Qwen3.6 gleicher Größe – Zahlen, die noch zu verifizieren sind.
DiffuSpace hat an diesem Mittwoch, den 28. Oktober, gegen 4:42 Uhr, Pariser Zeit, Clover-35B-A3B-Preview veröffentlicht, ein offenes Sprachmodell, das nicht wie die meisten anderen funktioniert. Statt Text Token für Token zu schreiben (man spricht von einem „autoregressiven“ Modell), generiert es ihn durch Diffusion: Es geht von einem Entwurf ganzer Blöcke aus und verfeinert ihn in mehreren Durchgängen, parallel. Das Team aus dem NLP-Labor der Universität Hongkong hatte bereits 2025 Dream 7B veröffentlicht.
Die Gewichte sind unter Apache-2.0-Lizenz auf Hugging Face und ModelScope veröffentlicht, der Code auf GitHub.
Was man über das Modell weiß
- Architektur: Mixture of Experts (MoE), 35 Milliarden Parameter insgesamt, davon etwa 3 Milliarden aktiv pro Token, was es für seine Größe leicht betreibbar macht.
- Basis: Es übernimmt die Architektur von Qwen3.6-35B-A3B von Alibaba und passt dessen Speichermmechanismus (Gated DeltaNet) so an, dass er den Kontext innerhalb jedes Blocks in beide Richtungen liest.
- Nutzung: Denkmodus, Unterstützung durch SGLang und llama.cpp, zwei gängige Werkzeuge zum lokalen oder serverbasierten Betrieb von Modellen. Ein Online-Zugang wird auf Anfrage angeboten.
Die Versprechen, zu verifizieren
Das Hauptargument ist die Geschwindigkeit. DiffuSpace wirbt mit 680 Tokens pro Sekunde auf einer einzigen NVIDIA-GB300-Karte (in BF16, eine Anfrage zur Zeit, auf internen Agent-Daten) und 515 Tokens/s gegenüber 365 für ein Qwen-Modell gleicher Größe, beschleunigt durch die DFlash2-Technik auf einer H200-Karte. In komprimierter Version (INT4) soll das Modell mit 101,8 Tokens/s auf einer RTX 5070 Ti mit 16 Go für Endverbraucher laufen.
Bei der Qualität gibt der Anbieter 73,6 auf SWE-bench Verified und 51,7 auf Terminal-Bench 2.1 an, zwei Tests für Code und Agenten, sowie 83,8 auf GPQA Diamond. Er behauptet, Qwen3.6-35B-A3B bei mehreren Tests zu übertreffen. Diese Zahlen stammen alle von DiffuSpace: Kein unabhängiger Evaluator hat sie bisher reproduziert.
Der Beitrag stellt außerdem ein von Clover abgeleitetes Entscheidungsmodell vor, das mehrere zusammenhängende Urteile in einem einzigen Durchgang verketten soll, sowie eine zukünftige Agenten-Umgebung und eine Programmieranwendung, beide als „in Entwicklung“ angekündigt.
Unsere Einschätzung
Diffusionsmodelle versprechen seit Langem eine deutlich schnellere Generierung, blieben aber bei der Qualität zurück, sobald man die Größe erhöhte. Sollten sich Clovers Scores bestätigen, wäre dies das erste offene Diffusionsmodell von ernsthafter Größe, das mit einem klassischen Äquivalent bei Code- und Agenten-Aufgaben konkurrieren kann. Für einen Agenten, der Dutzende Aufrufe verkettet, zählt die Geschwindigkeit genauso wie die Bewertung. Dennoch Vorsicht: Es handelt sich um eine „Preview“, die Messungen sind hausgemacht, und die entscheidende Frage wird die Leistung bei langen Aufgaben in Entwickler-Tools sein.
Quellen
- DiffuSpace — Clover-35B-A3B-Preview: A New Way for Intelligence (Blog) Primärquelle
- Hugging Face — Modellkarte Diffuspace/Clover-35B-A3B-Preview Primärquelle
- GitHub — DiffuSpace/Clover-35B-A3B-Preview Primärquelle
- DiffuSpace (X) — Ankündigung von Clover-35B-A3B-Preview Primärquelle
Eine Primärquelle stammt direkt von dem betreffenden Unternehmen, Labor oder der Organisation. Eine Sekundärquelle gibt die Information wieder, ohne ihr Urheber zu sein: Wir kennzeichnen sie als solche. Einen Fehler entdeckt? Lesen Sie unsere Korrekturrichtlinie.
