OpenAI führt Control Room ein: Zentrales System stoppt Forschungsworkloads in maximal 35 Sekunden
OpenAI stellt Control Room vor, einen Dienst, der alle Forschungsaufgaben mit den eigenen Modellen erfasst und deren Ausführung innerhalb von maximal 35 Sekunden nach einem Stoppbefehl kappen kann – egal ob dieser von Menschen oder Überwachungssystemen stammt. Die Schutzmaßnahme greift direkt auf Inferenzebene und blockiert bei Systemausfällen standardmäßig den gesamten Betrieb.
Was tun, wenn ein Modell während des Trainings Verhaltensweisen zeigt, die es nicht zeigen sollte? OpenAI hat am 9. November Control Room vorgestellt, einen zentralen Dienst, der sämtliche Forschungsaufgaben erfasst, die auf die unternehmenseigenen Modelle zurückgreifen, und deren Ausführung innerhalb von höchstens 35 Sekunden nach einem Stoppbefehl kappen kann. Das System ist bereits in der Forschungsinfrastruktur des Unternehmens im Einsatz.
Ein Notschalter direkt in der Inferenz
Das Prinzip basiert auf drei Komponenten. Die Aufgabe (ein Reinforcement-Learning-Experiment, eine Evaluierung, eine umfangreiche Datenverarbeitung) fordert beim Start eine Kennung bei Control Room an; führt sie agentische Inferenz durch, muss sie zudem einem genehmigten Sicherheitsnachweis zugeordnet sein. Die Inferenz-Engine, welche die Modelle auf den GPUs ausführt, verifiziert vor jeder Anfrage bei Control Room, ob diese Aufgabe weiterhin autorisiert ist. Der Control-Room-Dienst wiederum führt das Register der aktiven und gestoppten Aufgaben.
Sobald eine Person oder ein automatisches Überwachungssystem den Stopp anordnet, markiert Control Room die Aufgabe als beendet. Die darauffolgende Anfrage wird von der Engine verweigert: Das Forschungsprogramm läuft zwar möglicherweise weiter, erhält jedoch keinerlei Modellausgaben mehr – unabhängig davon, welche Engine oder welches Modell angefordert wird.
OpenAI begründet diesen Architekturansatz wie folgt: Der Code einzelner Experimente ändert sich permanent und liegt in den Händen verschiedener Forschungsteams; er eignet sich daher nicht als Ort für kritische Sicherheitsvorkehrungen. Im Gegensatz dazu gibt es in der gesamten Forschung von OpenAI nur eine sehr geringe Anzahl von Inferenz-Codepfaden. Indem der Riegel an dieser zentralen Stelle vorgeschoben wird, hat das Unternehmen nach eigenen Angaben die Garantie, dass jede Forschungsinferenz einer Kontrolle unterliegt. Zudem laufen kontinuierlich Prüfungen, um Engines aufzuspüren, die ohne Control Room gestartet wurden.
35 Sekunden und ein systematisches „Fail-Closed“
Die Verzögerung von 35 Sekunden geht auf eine Caching-Ebene für Berechtigungen zurück, die notwendig ist, um das hohe Anfragevolumen zu bewältigen; OpenAI arbeitet eigenen Angaben zufolge daran, diesen Wert auf null zu senken. Die Zahl erfasst ausschließlich die Zeitspanne zwischen dem Stoppbefehl und der tatsächlichen Unterbrechung – nicht jedoch die Zeit, die benötigt wird, um ein Problem überhaupt erst zu erkennen.
Das System ist nach dem Fail-Closed-Prinzip konzipiert: Sollte Control Room infolge eines Fehlers, einer Deaktivierung oder durch Sabotage ausfallen, weisen die Engines vorsorglich alle Anfragen ab, bis der Dienst wieder erreichbar ist. Dieser Modus gilt aktuell für alle Forschungsaufgaben an Spitzenmodellen und soll in den Tagen nach der Ankündigung auf die übrigen Forschungsbereiche ausgeweitet werden. OpenAI weist zudem darauf hin, dass alle modernen Reinforcement-Learning-Aufgaben von einem Monitor begleitet werden – einem separaten Modell, das das trainierte System überwacht und bei Bedarf eigenständig einen Stopp veranlassen kann.
Control Room erstreckt sich nicht auf öffentlich bereitgestellte Modelle (ChatGPT, API): Laut OpenAI ist diese Infrastruktur ohnehin bereits zentralisiert und mit eigenen Vorrichtungen zur raschen Abschaltung versehen.
Unsere Einschätzung
Dieser Beitrag ist vor allem ein Eingeständnis der veränderten Rahmenbedingungen: OpenAI stuft die Wahrscheinlichkeit, dass ein Modell während des Trainings im Notfall sofort gestoppt werden muss, inzwischen als hoch genug ein, um dafür ein eigenes System in Verbindung mit Überwachungsmodellen für nicht-aligniertes Verhalten einzurichten. Die Entscheidung, direkt auf Inferenzebene zu kappen und standardmäßig alles zu blockieren, sobald das Kontrollsystem ausfällt, ist der solideste Aspekt dieses Entwurfs: Sie hängt nicht vom Wohlwollen experimentellen Forschungscodes ab. Die Grenzen entsprechen denen einer typischen Unternehmensmitteilung: kein veröffentlichter Code, keine externen Audits und keine Zahlen darüber, wie viele Aufgaben bereits gestoppt wurden. Zudem nützt ein schneller Abbruch nur dann etwas, wenn die Erkennung rechtzeitig greift – und genau diesen Faktor misst Control Room nicht.
Quellen
- OpenAI — Control Room: A central system to track and stop model workloads across our research infrastructure (9. November 2026) Primärquelle
- OpenAI — Rubrik „Safety & Alignment“ des Blogs (Veröffentlichungsdatum) Primärquelle
- Cointelegraph — OpenAI builds kill switch to stop rogue agents within 35 seconds (10. November 2026) Sekundärquelle
Eine Primärquelle stammt direkt von dem betreffenden Unternehmen, Labor oder der Organisation. Eine Sekundärquelle gibt die Information wieder, ohne ihr Urheber zu sein: Wir kennzeichnen sie als solche. Einen Fehler entdeckt? Lesen Sie unsere Korrekturrichtlinie.
