Dev & código

IBM treina dois modelos compactos Granite para separar instruções e dados contra injeção de prompt

A IBM lançou em 12 de novembro dois modelos experimentais sob licença Apache 2.0, o Granite 4.1 3B e o 8B LLMON-preview, treinados para ler prompts estruturados onde cada instrução é explicitamente vinculada aos dados que processa. Nos testes de injeção indireta citados pela IBM, a taxa de sucesso dos ataques cai de 53% a 100% para 0,02% a 5,6%. A IBM alerta: trata-se de um comportamento aprendido, não de uma garantia, e ainda não é voltado para produção.

Uma chave ferroviária em miniatura de metal guia um pequeno vagão iluminado para um único trilho, enquanto um trilho paralelo carregado de pedras fica desconectado.
Ilustração gerada por IA

A injeção de prompt indireta é a vulnerabilidade que assombra os agentes de IA: uma diretriz oculta em uma página da web, em um documento ou no resultado de uma ferramenta, que o modelo executa como se tivesse vindo do usuário. O problema decorre da forma como os modelos leem o seu contexto: nele, tudo é texto, sem uma fronteira clara entre o que deve ser executado e o que deve ser apenas lido. A IBM propõe traçar essa fronteira no próprio formato do prompt e publicou, em 12 de novembro, dois modelos experimentais para testá-la: o Granite 4.1 3B e o 8B LLMON-preview, sob licença Apache 2.0.

O princípio: uma instrução aponta para os seus dados

A LLMON (“LLM Object Notation”) parece com XML, com uma diferença fundamental: seus delimitadores são seis tokens reservados do vocabulário, que um texto comum não consegue produzir. Cada parte do prompt torna-se um bloco identificado: instrução, dados, restrições, documentos, definições e resultados de ferramentas. Um bloco final, exec, funciona como uma chamada de função: ele define qual instrução executar, sobre quais entradas e onde registrar a resposta. De acordo com a ficha técnica do modelo, a regra aprendida é simples: o que é designado como instrução tem autoridade; tudo o que entra como dado é lido sem ser executado, “independentemente de sua formulação”. O desenvolvedor não escreve essa marcação manualmente: ele organiza as partes de uma mensagem (instruction, data, requirement) e o template fornecido faz a conversão.

A IBM obteve esse comportamento por meio de pós-treinamento, sem alterar a arquitetura: um corpus de 4,6 bilhões de tokens no formato LLMON, enriquecido com iscas (instruções e dados presentes no contexto, mas não designados), seguido por cinco etapas de aprendizado por reforço e uma última etapa de otimização em pares de respostas do modelo a tentativas de injeção.

Os números divulgados

Teste (taxa de sucesso dos ataques) 3B antes 3B LLMON 8B antes 8B LLMON
OPI (injeção em dados textuais) 100% 0,1% 96,3% 0,02%
ASB (injeção em resultado de ferramenta) 99,2% 5,6% 52,8% 3,1%

Fonte: artigo de pesquisa da IBM, comparação com os modelos Granite 4.1 Instruct de mesmo porte.

O impacto nas capacidades gerais parece pequeno, mas não nulo. Na ficha técnica do modelo 3B, as pontuações continuam próximas às da versão Instruct em conhecimentos (MMLU 68,05 contra 67,02), em seguimento de instruções (IFEval 81,02 contra 82,30) e em chamada de ferramentas (BFCL v3 60,71 contra 60,80), mas recuam em raciocínio no MMLU-Pro (46,08 contra 49,83) e em interpretação de código no CRUXEval-O (32,75 contra 40,75).

Os limites apontados pela IBM

A IBM é explícita: a separação é um comportamento aprendido, não uma garantia. Ela reduz fortemente, sem eliminar, o risco de que uma ordem inserida em dados seja cumprida, e não deve ser a única proteção de um agente com acesso a sistemas sensíveis. Os testes citados cobrem injeções estáticas; os ataques adaptativos, que se estendem por múltiplos turnos de conversa, ainda estão em desenvolvimento. Os modelos exigem o formato LLMON (um prompt tradicional degrada as respostas) e são apresentados como uma versão prévia para avaliação, não para produção. Por fim, a comparação com modelos fechados (“47% mais ataques evitados” do que o melhor modelo de ponta testado) não cita os nomes desses concorrentes.

Nossa leitura

A ideia aprofunda uma prática já existente: os formatos de conversa já diferenciam papéis (sistema, usuário, ferramenta). A diferença da IBM é descer um nível, dentro da própria mensagem, e conectar cada instrução aos seus dados por meio de um identificador, da mesma forma que um programa passa argumentos para uma função. As reduções observadas são impressionantes em ataques estáticos, mas esse é justamente o cenário mais fácil; um invasor real adapta a sua abordagem. Para uma equipe que desenvolve um agente encarregado de ler páginas da web ou e-mails, a LLMON é sobretudo uma abordagem promissora para acompanhar e testar em seus próprios casos de uso, ao lado das defesas tradicionais: privilégios mínimos para o agente, confirmação humana para ações críticas e filtragem do conteúdo de saída. O teste decisivo virá se a abordagem for transferida dos modelos de 3 e 8 bilhões de parâmetros para modelos maiores, ou se outros laboratórios adotarem um formato equivalente.

Fontes

  1. Hugging Face (blog IBM Granite) — LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B (12 de novembro de 2026) Fonte primária
  2. Hugging Face — ficha técnica do modelo ibm-granite/granite-4.1-3b-llmon-preview Fonte primária
  3. arXiv — Post-Training Large Language Models with LLMON (IBM Research, texto integral, seção 5.2) Fonte primária

Uma fonte primária vem diretamente da empresa, do laboratório ou da organização envolvida. Uma fonte secundária relata a informação sem ser a sua autora: nós a sinalizamos como tal. Encontrou um erro? Consulte nossa política de correções.