IBM entraîne deux petits modèles Granite à séparer instructions et données pour résister à l'injection de prompt
IBM a publié le 12 novembre deux modèles expérimentaux sous licence Apache 2.0, Granite 4.1 3B et 8B LLMON-preview, entraînés à lire des prompts balisés où chaque instruction est explicitement reliée aux données qu'elle traite. Sur les tests d'injection indirecte cités par IBM, le taux de réussite des attaques tombe de 53 à 100 % à 0,02 à 5,6 %. IBM prévient : c'est un comportement appris, pas une garantie, et pas encore pour la production.

L’injection de prompt indirecte est la faille qui hante les agents d’IA : une consigne cachée dans une page web, un document ou le résultat d’un outil, que le modèle exécute comme si elle venait de l’utilisateur. Le problème vient de la façon dont les modèles lisent leur contexte : tout y est du texte, sans frontière nette entre ce qu’il faut faire et ce qu’il faut seulement lire. IBM propose de tracer cette frontière dans le format même du prompt, et a publié le 12 novembre deux modèles expérimentaux pour le tester : Granite 4.1 3B et 8B LLMON-preview, sous licence Apache 2.0.
Le principe : une instruction pointe vers ses données
LLMON (« LLM Object Notation ») ressemble à du XML, avec une différence clé : ses délimiteurs sont six jetons réservés du vocabulaire, qu’un texte ordinaire ne peut pas produire. Chaque morceau du prompt devient un bloc identifié : instruction, données, contraintes, documents, définitions et résultats d’outils. Un bloc final, exec, fonctionne comme un appel de fonction : il dit quelle instruction exécuter, sur quelles entrées, et où écrire la réponse. Selon la fiche du modèle, la règle apprise est simple : ce qui est désigné comme instruction fait autorité, tout ce qui arrive comme entrée se lit sans s’exécuter, « quelle que soit sa formulation ». Le développeur n’écrit pas ce balisage à la main : il range les parties d’un message (instruction, data, requirement) et le gabarit fourni fait la conversion.
IBM a obtenu ce comportement par post-entraînement, sans modifier l’architecture : un corpus de 4,6 milliards de jetons au format LLMON, enrichi de leurres (instructions et données présentes dans le contexte mais non désignées), puis cinq étapes d’apprentissage par renforcement et une dernière étape d’optimisation sur des paires de réponses du modèle à des tentatives d’injection.
Les chiffres annoncés
| Test (taux de réussite des attaques) | 3B avant | 3B LLMON | 8B avant | 8B LLMON |
|---|---|---|---|---|
| OPI (injection dans des données textuelles) | 100 % | 0,1 % | 96,3 % | 0,02 % |
| ASB (injection dans un résultat d’outil) | 99,2 % | 5,6 % | 52,8 % | 3,1 % |
Source : article de recherche d’IBM, comparaison avec les modèles Granite 4.1 Instruct de même taille.
Le coût en capacités générales semble faible mais pas nul. Sur la fiche du modèle 3B, les scores restent proches de la version Instruct en connaissances (MMLU 68,05 contre 67,02), en suivi d’instructions (IFEval 81,02 contre 82,30) et en appel d’outils (BFCL v3 60,71 contre 60,80), mais reculent en raisonnement sur MMLU-Pro (46,08 contre 49,83) et en lecture de code sur CRUXEval-O (32,75 contre 40,75).
Les limites, dites par IBM
IBM est explicite : la séparation est un comportement appris, pas une garantie. Elle réduit fortement, sans l’éliminer, le risque qu’une consigne glissée dans des données soit suivie, et ne doit pas être la seule protection d’un agent qui accède à des systèmes sensibles. Les tests cités portent sur des injections statiques ; les attaques adaptatives, qui s’étalent sur plusieurs tours de conversation, sont encore en chantier. Les modèles attendent le format LLMON (un prompt classique dégrade leurs réponses) et sont présentés comme une préversion pour l’évaluation, pas pour la production. Enfin, la comparaison avec des modèles fermés (« 47 % d’attaques évitées en plus » que le meilleur modèle de pointe testé) ne nomme pas ces modèles.
Notre lecture
L’idée prolonge une pratique existante : les formats de conversation distinguent déjà des rôles (système, utilisateur, outil). La différence d’IBM est de descendre d’un niveau, à l’intérieur même d’un message, et de lier chaque instruction à ses données par un identifiant, comme un programme passe des arguments à une fonction. Les écarts mesurés sont spectaculaires sur des attaques statiques, mais c’est précisément le terrain le plus facile ; un attaquant réel adapte sa charge. Pour une équipe qui construit un agent qui lit des pages web ou des courriels, LLMON est surtout une piste à suivre et à tester sur ses propres cas, à côté des défenses classiques : droits minimaux pour l’agent, confirmation humaine pour les actions sensibles, et filtrage de ce qui sort. Le vrai test viendra si l’approche passe des modèles de 3 et 8 milliards de paramètres à des modèles plus grands, ou si d’autres laboratoires adoptent un format comparable.
Sources
- Hugging Face (blog IBM Granite) — LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B (12 novembre 2026) Source primaire
- Hugging Face — fiche du modèle ibm-granite/granite-4.1-3b-llmon-preview Source primaire
- arXiv — Post-Training Large Language Models with LLMON (IBM Research, texte intégral, section 5.2) Source primaire
Une source primaire émane directement de l'entreprise, du laboratoire ou de l'organisme concerné. Une source secondaire rapporte l'information sans en être l'auteur : nous la signalons comme telle. Une erreur ? Consultez notre politique de correction.


