IBM addestra due piccoli modelli Granite a separare istruzioni e dati per resistere all'iniezione di prompt
IBM ha rilasciato il 12 novembre due modelli sperimentali sotto licenza Apache 2.0, Granite 4.1 3B e 8B LLMON-preview, addestrati a leggere prompt taggati in cui ciascuna istruzione è esplicitamente collegata ai dati che elabora. Nei test di iniezione indiretta citati da IBM, la percentuale di successo degli attacchi crolla dal 53-100% allo 0,02-5,6%. IBM avverte: si tratta di un comportamento appreso, non di una garanzia, e non è ancora pronto per la produzione.

L’iniezione indiretta di prompt è la vulnerabilità che perseguita gli agenti IA: un’istruzione nascosta all’interno di una pagina web, di un documento o del risultato di uno strumento, che il modello esegue come se provenisse dall’utente. Il problema nasce dal modo in cui i modelli leggono il proprio contesto: al suo interno tutto è testo, senza un confine netto tra ciò che occorre fare e ciò che si deve soltanto leggere. IBM propone di tracciare questa linea di demarcazione nel formato stesso del prompt, e ha pubblicato il 12 novembre due modelli sperimentali per testarla: Granite 4.1 3B e 8B LLMON-preview, rilasciati con licenza Apache 2.0.
Il principio: un’istruzione punta ai suoi dati
LLMON («LLM Object Notation») somiglia a XML, con una differenza fondamentale: i suoi delimitatori sono sei token riservati del vocabolario, che un testo ordinario non può generare. Ogni parte del prompt diventa un blocco identificato: istruzione, dati, vincoli, documenti, definizioni e risultati degli strumenti. Un blocco finale, exec, funziona come una chiamata di funzione: indica quale istruzione eseguire, su quali input, e dove scrivere la risposta. Secondo la scheda del modello, la regola appresa è semplice: ciò che viene designato come istruzione fa testo, tutto ciò che arriva come input viene letto senza essere eseguito, «a prescindere dalla sua formulazione». Lo sviluppatore non scrive questa marcatura a mano: organizza le parti di un messaggio (istruzione, data, requirement) e il template fornito gestisce la conversione.
IBM ha ottenuto questo comportamento tramite post-training, senza alterare l’architettura: un corpus di 4,6 miliardi di token in formato LLMON, arricchito con esche (istruzioni e dati presenti nel contesto ma non designati), seguito da cinque passaggi di apprendimento per rinforzo e da un’ultima fase di ottimizzazione su coppie di risposte del modello a tentativi di iniezione.
I numeri comunicati
| Test (percentuale di successo degli attacchi) | 3B prima | 3B LLMON | 8B prima | 8B LLMON |
|---|---|---|---|---|
| OPI (iniezione in dati testuali) | 100% | 0,1% | 96,3% | 0,02% |
| ASB (iniezione nel risultato di uno strumento) | 99,2% | 5,6% | 52,8% | 3,1% |
Fonte: documento di ricerca di IBM, confronto con i modelli Granite 4.1 Instruct di pari dimensioni.
Il costo in termini di capacità generali appare contenuto ma non inesistente. Sulla scheda del modello 3B, i punteggi restano vicini alla versione Instruct nella conoscenza generale (MMLU 68,05 contro 67,02), nel seguire istruzioni (IFEval 81,02 contro 82,30) e nelle chiamate di strumenti (BFCL v3 60,71 contro 60,80), mentre arretrano nel ragionamento su MMLU-Pro (46,08 contro 49,83) e nella lettura del codice su CRUXEval-O (32,75 contro 40,75).
I limiti segnalati da IBM
IBM è esplicita: la separazione è un comportamento appreso, non una garanzia. Riduce drasticamente, senza annullarlo, il rischio che un’istruzione infilata nei dati venga eseguita, e non deve rappresentare l’unica barriera difensiva per un agente con accesso a sistemi sensibili. I test citati riguardano iniezioni statiche; gli attacchi adattativi, distribuiti su più turni di conversazione, sono ancora oggetto di studio. I modelli richiedono il formato LLMON (un prompt convenzionale degrada la qualità delle risposte) e vengono presentati come una versione preliminare destinata alla valutazione, non alla produzione. Infine, il confronto con modelli proprietari («il 47% di attacchi evitati in più» rispetto al miglior modello all’avanguardia testato) non menziona i nomi di tali modelli.
La nostra lettura
L’idea estende una prassi consolidata: i formati di conversazione distinguono già i ruoli (sistema, utente, strumento). La novità di IBM sta nello scendere di un livello, direttamente all’interno del singolo messaggio, associando ogni istruzione ai relativi dati tramite un identificatore, proprio come un programma passa argomenti a una funzione. I divari registrati sono notevoli su attacchi statici, ma questo rappresenta proprio il terreno più agevole; un attaccante reale calibra il payload in modo dinamico. Per un team impegnato a sviluppare un agente che consulta pagine web o email, LLMON rappresenta soprattutto una pista da monitorare e verificare sui propri casi d’uso, affiancandola alle difese standard: privilegi minimi per l’agente, approvazione umana per le azioni critiche e filtraggio dei dati in uscita. La prova decisiva arriverà quando si capirà se l’approccio potrà scalare dai modelli da 3 e 8 miliardi di parametri a sistemi più grandi, o se altri laboratori decideranno di adottare formati analoghi.
Fonti
- Hugging Face (blog IBM Granite) — LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B (12 novembre 2026) Fonte primaria
- Hugging Face — scheda del modello ibm-granite/granite-4.1-3b-llmon-preview Fonte primaria
- arXiv — Post-Training Large Language Models with LLMON (IBM Research, testo integrale, sezione 5.2) Fonte primaria
Una fonte primaria proviene direttamente dall'azienda, dal laboratorio o dall'ente interessato. Una fonte secondaria riporta l'informazione senza esserne l'autrice: la segnaliamo come tale. Un errore? Consulta la nostra politica di rettifica.


