IBM trainiert zwei kleine Granite-Modelle auf die Trennung von Anweisungen und Daten zur Abwehr von Prompt-Injections
IBM hat am 12. November unter der Apache-2.0-Lizenz zwei experimentelle Modelle veröffentlicht: Granite 4.1 3B und 8B LLMON-preview. Sie wurden darauf trainiert, getaggte Prompts zu lesen, bei denen jede Anweisung explizit mit den verarbeiteten Daten verknüpft ist. In den von IBM zitierten Tests zu indirekten Injections sank die Erfolgsrate von Angriffen von 53 bis 100 Prozent auf 0,02 bis 5,6 Prozent. IBM warnt jedoch: Es handelt sich um ein erlerntes Verhalten, keine Garantie, und es ist noch nicht für den Produktivbetrieb gedacht.

Indirekte Prompt-Injection ist die Schwachstelle, die KI-Agenten heimsucht: eine Anweisung, die in einer Webseite, einem Dokument oder dem Ergebnis eines Werkzeugs versteckt ist und vom Modell so ausgeführt wird, als käme sie vom Nutzer. Das Problem rührt von der Art und Weise her, wie Modelle ihren Kontext lesen: Alles darin ist Text, ohne klare Trennlinie zwischen dem, was zu tun ist, und dem, was lediglich gelesen werden soll. IBM schlägt vor, diese Grenze direkt im Format des Prompts zu ziehen, und hat am 12. November zwei experimentelle Modelle veröffentlicht, um dies zu testen: Granite 4.1 3B und 8B LLMON-preview, unter der Apache-2.0-Lizenz.
Das Prinzip: Eine Anweisung verweist auf ihre Daten
LLMON („LLM Object Notation“) ähnelt XML, weist jedoch einen entscheidenden Unterschied auf: Seine Trennzeichen sind sechs reservierte Tokens des Vokabulars, die ein gewöhnlicher Text nicht erzeugen kann. Jeder Teil des Prompts wird zu einem identifizierten Block: Anweisung, Daten, Einschränkungen, Dokumente, Definitionen und Werkzeugergebnisse. Ein abschließender Block, exec, funktioniert wie ein Funktionsaufruf: Er legt fest, welche Anweisung ausgeführt werden soll, auf welche Eingaben sie sich bezieht und wohin die Antwort geschrieben werden soll. Laut der Modellkarte ist die gelernte Regel einfach: Was als Anweisung deklariert ist, ist maßgeblich; alles, was als Eingabe ankommt, wird gelesen, ohne ausgeführt zu werden – „ungeachtet seiner Formulierung“. Entwickler müssen dieses Markup nicht von Hand verfassen: Sie strukturieren die Teile einer Nachricht (Anweisung, Daten, Vorgaben), und die mitgelieferte Vorlage übernimmt die Konvertierung.
IBM erzielte dieses Verhalten durch Post-Training ohne Änderung der Architektur: Ein Korpus von 4,6 Milliarden Tokens im LLMON-Format wurde mit Täuschungen angereichert (im Kontext vorhandene, aber nicht adressierte Anweisungen und Daten). Darauf folgten fünf Phasen des Reinforcement Learning sowie ein abschließender Optimierungsschritt anhand von Antwortpaaren des Modells auf Injection-Versuche.
Die veröffentlichten Zahlen
| Test (Erfolgsrate der Angriffe) | 3B zuvor | 3B LLMON | 8B zuvor | 8B LLMON |
|---|---|---|---|---|
| OPI (Injection in Textdaten) | 100 % | 0,1 % | 96,3 % | 0,02 % |
| ASB (Injection in ein Werkzeugergebnis) | 99,2 % | 5,6 % | 52,8 % | 3,1 % |
Quelle: Forschungspapier von IBM, Vergleich mit den gleich großen Granite-4.1-Instruct-Modellen.
Die Einbußen bei den allgemeinen Fähigkeiten scheinen gering, aber nicht gleich null zu sein. Auf der Modellkarte des 3B-Modells bleiben die Werte nahe an der Instruct-Version beim Allgemeinwissen (MMLU 68,05 gegenüber 67,02), beim Befolgen von Instruktionen (IFEval 81,02 gegenüber 82,30) und bei Werkzeugaufrufen (BFCL v3 60,71 gegenüber 60,80), gehen jedoch beim logischen Schließen auf MMLU-Pro (46,08 gegenüber 49,83) und beim Verstehen von Code auf CRUXEval-O (32,75 gegenüber 40,75) zurück.
Die von IBM benannten Grenzen
IBM betont es unmissverständlich: Die Trennung ist ein erlerntes Verhalten, keine Garantie. Sie reduziert das Risiko, dass eine in Daten eingeschleuste Anweisung befolgt wird, erheblich, eliminiert es jedoch nicht. Sie darf daher nicht die einzige Schutzmaßnahme eines Agenten sein, der auf sensible Systeme zugreift. Die genannten Tests beziehen sich auf statische Injections; adaptive Angriffe, die sich über mehrere Konversationsschritte erstrecken, sind noch in Bearbeitung. Die Modelle setzen das LLMON-Format voraus (ein herkömmlicher Prompt verschlechtert ihre Antworten) und werden als Preview zur Evaluierung vorgestellt, nicht für den Produktiveinsatz. Schließlich benennt der Vergleich mit proprietären Modellen („47 Prozent mehr abgewendete Angriffe“ als das beste getestete Spitzenmodell) diese Modelle nicht namentlich.
Unsere Einschätzung
Die Idee knüpft an eine bestehende Praxis an: Konversationsformate unterscheiden bereits Rollen (System, Nutzer, Werkzeug). Der Unterschied bei IBM besteht darin, eine Ebene tiefer anzusetzen, direkt innerhalb einer Nachricht, und jede Anweisung über einen Bezeichner an ihre Daten zu binden – ähnlich wie ein Programm Argumente an eine Funktion übergibt. Die gemessenen Differenzen sind bei statischen Angriffen spektakulär, aber das ist genau das einfachste Terrain; ein realer Angreifer passt seine Payload an. Für ein Team, das einen Agenten aufbaut, der Webseiten oder E-Mails ausliest, ist LLMON vor allem ein Ansatz, den man im Auge behalten und an den eigenen Anwendungsfällen testen sollte – flankiert von den klassischen Schutzmechanismen: Minimalrechte für den Agenten, menschliche Bestätigung bei sensiblen Aktionen und Filterung der Ausgaben. Die eigentliche Bewährungsprobe steht bevor, wenn der Ansatz von 3- und 8-Milliarden-Parameter-Modellen auf größere Modelle skaliert wird oder andere Forschungslabore ein vergleichbares Format etablieren.
Quellen
- Hugging Face (Blog IBM Granite) — LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B (12. November 2026) Primärquelle
- Hugging Face — Modellkarte zu ibm-granite/granite-4.1-3b-llmon-preview Primärquelle
- arXiv — Post-Training Large Language Models with LLMON (IBM Research, Volltext, Abschnitt 5.2) Primärquelle
Eine Primärquelle stammt direkt von dem betreffenden Unternehmen, Labor oder der Organisation. Eine Sekundärquelle gibt die Information wieder, ohne ihr Urheber zu sein: Wir kennzeichnen sie als solche. Einen Fehler entdeckt? Lesen Sie unsere Korrekturrichtlinie.


