OpenAI richtet seine Model Spec an fünf Werten aus und nennt sein Modell künftig „GPT“

OpenAI hat am Donnerstag, den 29. Oktober, eine neue Version der Model Spec veröffentlicht, jenes öffentlichen Dokuments, in dem der Anbieter beschreibt, wie sich seine Modelle verhalten sollen. Diese Überarbeitung wurde gegen 18:05 Uhr Pariser Zeit vom Forscher Jason Wolfe angekündigt und anschließend über den offiziellen Account von OpenAI verbreitet. Sie fügt nicht bloß neue Regeln hinzu: Sie organisiert den gesamten Text um fünf Werte herum – ausgehend von dem Gedanken, dass autonomere Modelle verstehen müssen, was Menschen beabsichtigen, anstatt Anweisungen nur wortwörtlich zu befolgen.

Fünf Werte statt eines Regelkatalogs

Die fünf festgelegten Werte sind:

• die Treue zur menschlichen Absicht, die als Fundament gilt: verstehen, was OpenAI, Entwickler und Nutzer wollen, und mit Urteilsvermögen handeln, wenn dieses Verständnis lückenhaft ist;
• die Schadensminderung: Einhalten strikter Sicherheitsgrenzen und Berücksichtigung vorhersehbarer Folgen des Modellhandelns;
• Ehrlichkeit und Transparenz hinsichtlich dessen, was das Modell weiß, tut und nicht weiß;
• die Stärkung der menschlichen Handlungsfähigkeit: Menschen dabei unterstützen, selbstständig zu verstehen, zu wählen und zu handeln;
• die Fürsorge für Betroffene, die Beachtung sozialer sowie professioneller Normen und verlässliche Arbeit.

Die Hierarchie der Anweisungen bleibt bestehen: OpenAI setzt die Leitplanken, Entwickler steuern ihre Anwendungen innerhalb dieses Rahmens, und die Nutzer leiten die Arbeit des Modells auf dieser Basis an. Abseits der festen Grenzen bleibt die Spec vor allem eine Sammlung von Standardverhaltensweisen, die Entwickler und Nutzer anpassen können.

Was hinzukommt, was wegfällt

Ein neuer Abschnitt mit dem Titel „Consider context carefully“ legt dar, wie Unterhaltungen, Erinnerungen und sonstige Kontextdaten das Verständnis der Absichten der Nutzer schärfen sollen – sachdienlich, verhältnismäßig und unter Wahrung der Privatsphäre. OpenAI nennt ein Beispiel: Beim Vergleich von Stellenangeboten kann sich das Modell daran erinnern, dass dem Nutzer planbare Arbeitszeiten wichtig sind, muss diese Annahme jedoch transparent machen und leicht korrigierbar halten.

Der Text ergänzt zudem Prinzipien zur Unterstützung menschlicher Aufsicht und Korrektur und bekräftigt die Vorgabe, Nebenwirkungen der Handlungen des Modells zu beherrschen und auszuweisen, inklusive genauerer Bestimmungen zu Berechtigungen – ein zentraler Punkt für Agenten, die in Softwareanwendungen oder im Web agieren.

Im Gegenzug streicht OpenAI den Großteil der detaillierten Stilvorgaben: Der Tonfall soll sich flexibel an die Präferenzen der Nutzer, Sprachen und Kulturen anpassen. Eine strikte Regel bleibt jedoch bestehen: Fragen sind sachlich und objektiv anzugehen, ohne eine bestimmte Position nur deshalb einzunehmen, weil das Modell annimmt, der Nutzer wolle genau das hören. Schließlich bezeichnet das Dokument das System künftig als „GPT“ und nicht mehr als „den Assistenten“.

Eine Absichtserklärung, keine Garantie

OpenAI betont selbst: Die Model Spec beschreibt das Zielverhalten, und die aktuellen Modelle spiegeln dieses noch nicht vollständig wider. Das Unternehmen gibt an, an neuen Trainingsmethoden zu arbeiten, damit die Modelle begreifen, warum diese Prinzipien wesentlich sind; Ergebnisse wurden dazu bislang nicht vorgelegt. Die Öffentlichkeit ist dazu aufgerufen, Feedback zum Text abzugeben.