Baidu rilascia i pesi di ERNIE 5.5 Flash Base, un modello di base da 280 miliardi di parametri la cui licenza esclude l'Unione Europea

Baidu ha rilasciato il 5 novembre 2026 i pesi di ERNIE-5.5-Flash-Base, un modello linguistico di tipo Mixture-of-Experts (MoE) da 280 miliardi di parametri, di cui solo 14 miliardi vengono attivati per ciascun token. La particolarità di questa versione è che si tratta di un modello di base, congelato al termine del pre-addestramento, che Baidu propone come punto di partenza per la ricerca e l’adattamento. Inoltre, un dettaglio della licenza riguarda direttamente i lettori europei: essa esclude l’Unione Europea.

Un modello di base, non un assistente

ERNIE-5.5-Flash-Base non ha ricevuto né addestramento intermedio né post-addestramento: non segue istruzioni e non dialoga, ma si limita al completamento del testo. Baidu lo indirizza all’adattamento a domini specifici, all’instruction tuning e alla ricerca sull’apprendimento per rinforzo, promettendo che la versione post-addestrata di ERNIE 5.5 Flash «seguirà», senza specificare una data. Si tratta di una strategia insolita: la maggior parte dei laboratori rilascia prima il modello rifinito e solo in seguito il modello base.

Il modello è stato addestrato da zero su 33.500 miliardi di token, con un contesto di addestramento di 128.000 token; Baidu specifica che il fine-tuning e l’inferenza supportano fino a un milione di token. Il corpus pone forte enfasi sul codice su scala di interi repository (commit, issue, pull request, revisioni del codice, correzioni convalidate da continuous integration) e sulla comprensione di testi lunghi. I pesi sono disponibili nei formati FP8 e BF16, su Hugging Face e ModelScope, accompagnati da istruzioni per il deployment con SGLang e vLLM.

Un’architettura progettata per ridurre i costi

La parte principale del post tecnico si concentra sull’efficienza. Dei 43 strati, solo uno su sette mantiene un accesso token per token all’intero contesto (attenzione latente MLA, resa sparsa); gli altri 37 sfruttano un’attenzione fortemente compressa che conserva una sola voce di cache ogni 128 token. L’obiettivo è abbattere la memoria richiesta dai contesti lunghi, una voce di costo determinante per gli agenti. Ciascuno strato MoE include 512 esperti (10 attivi per token) più un esperto condiviso, selezionati da molteplici router indipendenti anziché da uno solo. Baidu sostituisce inoltre il modulo di predizione multi-token con l’ultimo strato della rete, che funge anche da modello bozza per la decodifica speculativa.

Punteggi superiori a DeepSeek, secondo Baidu

Baidu confronta il proprio modello con tre modelli base cinesi di dimensioni simili, valutati secondo l’azienda con lo stesso protocollo: DeepSeek-V4-Flash-Base (284 miliardi di parametri, 13 attivi), Hy3-preview-Base (295 miliardi di parametri) e MiMo-V2.5-Base (310 miliardi). ERNIE risulta in testa nella maggior parte dei benchmark: 78,4 su MMLU-Pro contro 69,2 di DeepSeek, 82,3 contro 69,5 su HumanEval+, 40,1 contro 31,9 su LiveCodeBench. Resta invece indietro su ChineseSimpleQA (73,0 contro 75,3 di DeepSeek), su FullStackBench (54,6 contro 56,7 di Hy3-preview-Base) o su InfiniteBench. Questi numeri restano quelli comunicati dall’azienda e si riferiscono a un modello base: non anticipano in alcun modo le prestazioni del futuro modello conversazionale.

Una licenza proprietaria molto restrittiva

La licenza, definita da Baidu, è lontana dall’essere open source. Stabilisce un territorio che copre l’intero pianeta tranne l’Unione Europea, il Regno Unito e la Corea del Sud, precisando che il modello, i suoi derivati e perfino i suoi output non possono essere utilizzati, riprodotti o distribuiti al di fuori di quest’area. Negli altri territori l’uso non commerciale è libero; l’uso commerciale è gratuito a patto che i prodotti interessati non superino i 50 milioni di dollari di fatturato annuo, con l’obbligo di inviare una notifica a Baidu e di inserire la dicitura «Powered by ERNIE». Oltre questa cifra è necessaria un’autorizzazione scritta preventiva. La licenza vieta inoltre di impiegare il modello o i suoi output per migliorare altri modelli che non siano suoi derivati diretti, così come qualsiasi uso militare.