OpenAI distribuisce Control Room, un sistema centrale per interrompere la produzione dei suoi modelli di ricerca in 35 secondi
OpenAI descrive Control Room, un servizio che monitora tutti i task di ricerca che utilizzano i suoi modelli e può interrompere la loro produzione al massimo in 35 secondi dopo una decisione di stop, presa da una persona o da un sistema di sorveglianza. Il dispositivo è collocato nel livello di inferenza e si mette in sicurezza in caso di guasto.
Cosa fare se un modello durante l’addestramento comincia a fare qualcosa che non dovrebbe? OpenAI ha presentato il 9 novembre Control Room, un servizio centrale che censisce tutti i task di ricerca che utilizzano i suoi modelli e può interrompere la loro produzione al massimo in 35 secondi dopo una decisione di arresto. Il sistema è già distribuito nell’infrastruttura di ricerca dell’azienda.
Un pulsante di arresto integrato nell’inferenza
Il principio si articola in tre elementi. Il task (un esperimento di apprendimento per rinforzo, una valutazione, una grande elaborazione di dati) richiede all’avvio un identificativo a Control Room; se esegue inferenza agentica, deve essere collegato a un fascicolo di sicurezza approvato. Il motore di inferenza, che esegue il modello sulle GPU, verifica presso Control Room, prima di ogni richiesta, che tale task sia ancora autorizzato. Infine, il servizio Control Room tiene il registro dei task attivi e interrotti.
Quando una persona o un sistema di sorveglianza ordina l’arresto, Control Room contrassegna il task come bloccato. La richiesta successiva viene respinta dal motore: il programma di ricerca può continuare a girare, ma non riceve più alcun output dal modello, indipendentemente dal motore o dal modello interpellato.
OpenAI giustifica questa scelta architetturale: il codice degli esperimenti cambia continuamente ed è gestito da team di ricercatori, non rappresenta quindi un buon punto per una protezione critica. Al contrario, esiste solo un numero molto ridotto di percorsi di codice di inferenza in tutta la ricerca di OpenAI. Collocando il blocco a questo livello, l’azienda afferma di ottenere la garanzia che qualsiasi inferenza di ricerca passi attraverso un controllo, ed esegue verifiche continue per individuare eventuali motori avviati senza Control Room.
35 secondi e sicurezza garantita per impostazione predefinita
Il tempo limite di 35 secondi deriva da un livello di cache delle autorizzazioni, necessario per assorbire il volume delle richieste; OpenAI dichiara di essere al lavoro per azzerarlo. Questa cifra tiene conto solo del tempo che intercorre tra l’ordine di arresto e l’interruzione effettiva, non del tempo necessario a rilevare il problema.
Il sistema è progettato per bloccarsi in sicurezza (fail-closed): se Control Room va in crash, per errore, disattivazione o sabotaggio, i motori rifiutano tutte le richieste fino al ripristino del servizio. Questa modalità è attiva per tutti i task di ricerca sui modelli di punta e dovrebbe essere estesa al resto della ricerca nei giorni successivi. OpenAI ricorda inoltre che tutti i suoi task di apprendimento per rinforzo all’avanguardia sono accompagnati da un monitor, un altro modello che osserva il modello addestrato e può richiedere esso stesso l’arresto.
Control Room non riguarda i modelli distribuiti al pubblico (ChatGPT, API): secondo OpenAI, questa infrastruttura è già centralizzata e dispone di meccanismi propri per la disattivazione rapida.
La nostra lettura
Questo post è soprattutto un’ammissione di contesto: OpenAI considera ormai abbastanza probabile che un modello in addestramento debba essere fermato d’urgenza da dover costruire un sistema dedicato, collegato ai suoi monitor per comportamenti non allineati. La scelta di tagliare l’accesso a livello di inferenza, e di bloccare tutto di default se il controllo viene meno, è l’intuizione più solida: non dipende dalla buona volontà del codice sperimentale. I limiti sono quelli tipici di un comunicato aziendale: niente codice, nessun audit esterno, nessuna cifra sui blocchi già attivati. E un arresto rapido serve a poco se il rilevamento non è tempestivo, un aspetto che Control Room non misura.
Fonti
- OpenAI — Control Room: A central system to track and stop model workloads across our research infrastructure (9 novembre 2026) Fonte primaria
- OpenAI — sezione Sicurezza del blog (data di pubblicazione) Fonte primaria
- Cointelegraph — OpenAI builds kill switch to stop rogue agents within 35 seconds (10 novembre 2026) Fonte secondaria
Una fonte primaria proviene direttamente dall'azienda, dal laboratorio o dall'ente interessato. Una fonte secondaria riporta l'informazione senza esserne l'autrice: la segnaliamo come tale. Un errore? Consulta la nostra politica di rettifica.
