OpenAI riorganizza la sua Model Spec attorno a cinque valori e chiama ora il suo modello «GPT»

OpenAI ha pubblicato giovedì 29 ottobre una nuova versione della Model Spec, il documento pubblico in cui l’azienda descrive come desidera che i suoi modelli si comportino. Annunciata verso le 18:05 ora di Parigi dal ricercatore Jason Wolfe, poi rilanciata dall’account di OpenAI, questa revisione non si limita ad aggiungere regole: riorganizza l’intero testo attorno a cinque valori, partendo dall’idea che modelli più autonomi debbano comprendere ciò che le persone vogliono, e non limitarsi a seguire le loro istruzioni alla lettera.

Cinque valori al posto di un elenco di regole

I cinque valori selezionati sono:

• la fedeltà all’intenzione umana, presentata come fondamento: comprendere ciò che vogliono OpenAI, gli sviluppatori e gli utenti, e agire con discernimento quando tale comprensione è incompleta;
• la riduzione dei danni: rispettare rigorosi limiti di sicurezza e tenere conto delle conseguenze prevedibili delle azioni del modello;
• l’onestà e la trasparenza su ciò che il modello sa, fa e ignora;
• il rafforzamento dell’autonomia umana: aiutare le persone a capire, scegliere e agire autonomamente;
• l’attenzione verso le persone coinvolte, il rispetto delle norme sociali e professionali, e un lavoro affidabile.

La gerarchia delle istruzioni rimane invariata: OpenAI stabilisce i limiti, gli sviluppatori orientano le loro applicazioni all’interno di essi e gli utenti guidano il lavoro del modello in questo contesto. Al di fuori dei limiti fissi, la Spec resta soprattutto un insieme di comportamenti predefiniti che sviluppatori e utenti possono modificare.

Cosa viene aggiunto, cosa scompare

Una nuova sezione, «Consider context carefully», spiega come le conversazioni, i ricordi e altri elementi di contesto debbano chiarire la comprensione delle intenzioni dell’utente, in modo pertinente e proporzionato, nel rispetto della privacy. OpenAI propone un esempio: per confrontare offerte di lavoro, il modello può ricordare che l’utente tiene a orari prevedibili, ma deve rendere questa ipotesi visibile e facile da correggere.

Il testo introduce anche principi sul supporto alla supervisione e alla correzione umane, e rafforza l’indicazione di gestire e segnalare gli effetti collaterali delle azioni del modello, con dettagli sulle autorizzazioni, un punto chiave per gli agenti che operano nei software o sul web.

Al contrario, OpenAI rimuove la maggior parte delle indicazioni stilistiche dettagliate: lo stile deve adattarsi alle preferenze degli utenti, delle lingue e delle culture. Viene mantenuta una regola fondamentale: affrontare le questioni in modo obiettivo, senza adottare un punto di vista semplicemente perché il modello presume sia ciò che l’utente desidera sentirsi dire. Infine, il documento si riferisce ora al modello come «GPT» e non più come a «l’assistente».

Un testo di intenti, non una garanzia

OpenAI lo afferma esplicitamente: la Model Spec descrive il comportamento auspicato, e i suoi modelli attuali non lo rispecchiano ancora pienamente. L’azienda indica di essere al lavoro su nuovi metodi di addestramento affinché i modelli comprendano perché questi principi contino, senza pubblicare per ora alcun risultato. Invita inoltre il pubblico a inviare feedback sul testo.