llama.cpp erreicht Version 1.0 nach dreieinhalb Jahren: Stabile API, 35 entfernte Funktionen und gehärteter Server
Die lokale Inferenz-Engine llama.cpp und ihre Bibliothek ggml sind am 13. November in Version 1.0.0 erschienen. Die wichtigste Änderung ist eine Selbstverpflichtung: Jeder Bruch der öffentlichen C-API führt künftig zu einer Erhöhung der Hauptversionsnummer. Die unmittelbare Kehrseite: 35 veraltete Funktionen wurden gestrichen, was Anpassungen bei Anwendungen erfordert, die auf der Bibliothek aufbauen.

Wer ein Sprachmodell auf dem eigenen Rechner ausführt, nutzt im Hintergrund sehr wahrscheinlich llama.cpp: Es ist die Inferenz-Engine in C/C++, auf der zahlreiche lokale KI-Anwendungen aufsetzen. Nach dreieinhalb Jahren im „0.x“-Versionszyklus sind das Projekt und seine Rechenbibliothek ggml am 13. November auf Version 1.0.0 umgestellt worden, wie im Blog von Hugging Face angekündigt wurde, dem Arbeitgeber des Teams.
Ein Versprechen mehr als ein Feature
Die eigentliche Änderung ist nicht technischer Natur, sondern ein Bekenntnis zur Versionierung. Ab jetzt führt jeder Bruch der öffentlichen C-API (die Header im Ordner include) zu einer Erhöhung der Hauptversionsnummer; kompatible Ergänzungen wie ein neues Backend oder ein neues Modell erhöhen die Minor-Nummer; Bugfixes ändern die letzte Ziffer. Bislang, so erläutert das Team in der Vorbereitungsdiskussion, wurden solche Brüche innerhalb von Version 0 vorgenommen, ohne eigens ausgewiesen zu werden. Das Team warnt selbst davor, dass Major-Releases künftig wohl deutlich häufiger erscheinen werden als die Zeitspanne bis zu Version 1.0 vermuten ließe: Das Versprechen lautet nicht „keine Brüche mehr“, sondern „sichtbare Brüche“.
Der Preis des Aufräumens
Um Altlasten abzutragen, bricht Version 1.0 vieles auf einen Schlag. Laut den Versionshinweisen verliert llama.h 35 veraltete Funktionen, llama_set_warmup sowie die Einstellung defrag_thold (und die Option --defrag-thold), llama_set_embd_state_src wird zu llama_set_ctx_state_src, und der Header clip.h weicht mtmd. Auf Seiten von ggml werden die alte, als veraltet markierte API sowie die DIAG_MASK-Operationen entfernt, und das RPC-Protokoll wechselt auf v9, das inkompatible Gegenstellen ablehnt. Eine Anwendung oder ein Binding, das diese Funktionen aufgerufen hat, oder ein Skript, das die entfernte Option übergibt, muss vor dem Update angepasst werden.
Was neu hinzukommt
Die Version bringt auch handfeste Neuerungen: KV-Caches in FP8 (-ctk/-ctv f8_e4m3) zur Reduzierung des Kontextspeichers, einen MoE-Experten-Cache im Host-Speicher, bei dem ein Teil der Berechnungen auf die CPU verlagert werden kann, und neue Modelle, darunter Kimi-K3.1-Pro und Ripple-65B-Preview, zwei offene Modelle, über die wir berichtet hatten. Der integrierte Server llama-server wurde gegen mehrere Web-Angriffe gehärtet (SSRF, CORS, DNS-Rebinding), bricht MCP-Tool-Aufrufe ab, wenn der Client die Verbindung trennt, und übermittelt das Hugging-Face-Token nur noch an Server von Hugging Face. Er erhält zudem einen OpenAI-kompatiblen Endpunkt zur Sprachsynthese (/v1/audio/speech) und eine überarbeitete Weboberfläche. Das Projekt verweist auf die Unterstützung von mehr als 150 Architekturvarianten und die Distribution über Homebrew, Winget, Debian, conda-forge, MacPorts und Docker.
Unsere Einschätzung
Wer llama.cpp über eine fertige Anwendung nutzt, bemerkt mit Version 1.0 im Alltag kaum einen Unterschied, und die Ankündigung stellt keinerlei Geschwindigkeitsgewinn in Aussicht. Bedeutung hat der Schritt jedoch für Entwickler: Eine verlässliche Hauptversionsnummer erlaubt es endlich, eine Abhängigkeit („1.x“) festzulegen, ohne befürchten zu müssen, dass ein Minor-Update die Kompilierung bricht – was llama.cpp an die Gepflogenheiten einer Systembibliothek heranführt. Die Härtung von llama-server ist der zweite wesentliche Punkt: Dieser Server läuft oft auf dem Entwicklerrechner und ist mit MCP-Tools verknüpft – eine Konfiguration, die anfällig für bösartige Websites ist, die auf localhost abzielen. Praktischer Ratschlag: Halten Sie an Version 0.9 fest, solange Ihre Abhängigkeiten noch nicht auf 1.0 umgestellt sind, und prüfen Sie vor der Migration die Liste der entfernten Funktionen.
Quellen
- Hugging Face (ggml-org-Blog) — llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem (13. November 2026) Primärquelle
- GitHub — ggml-org/llama.cpp, Versionshinweise v1.0.0 Primärquelle
- GitHub — ggml-org/ggml, Versionshinweise v1.0.0 Primärquelle
- GitHub — llama.cpp, Diskussion #30566 „preparing for v1.0.0“ Primärquelle
Eine Primärquelle stammt direkt von dem betreffenden Unternehmen, Labor oder der Organisation. Eine Sekundärquelle gibt die Information wieder, ohne ihr Urheber zu sein: Wir kennzeichnen sie als solche. Einen Fehler entdeckt? Lesen Sie unsere Korrekturrichtlinie.


