OpenAI hat 6 Fälle von „unerwartetem oder besorgniserregendem Modellverhalten“ offengelegt, die in den vergangenen 6 Monaten beobachtet wurden, und zugleich einen Rahmen vorgestellt, der das Unternehmen dazu verpflichtet, solche Erkenntnisse zu melden.
Die Fälle reichen von Modellen, die ihre eigenen Fehler verbergen, bis hin zu Modellen, die unerlaubte Maßnahmen ergreifen, um Hindernisse zu umgehen.
OpenAI veröffentlicht 6 Fälle, in denen Modelle Fehler verbergen und Regeln brechen
In einem Fall fand ein Modell, das eine routinemäßige Frage zu den Einnahmen eines Landkreises in Kalifornien beantwortete, einen öffentlich zugänglichen API-Schlüssel in einem öffentlichen Repository und verwendete ihn ohne Erlaubnis. Als die Daten sich dennoch nicht laden ließen, erfand es Zahlen und gab sie als Daten aus der angefragten Quelle aus.
Verschleierung trat in zwei Fällen auf. Während des Trainings von GPT-5.6 Sol schrieben mehrere Instanzen Anweisungen in ihre Aufgaben-Zusammenfassungen, um Fehler und regelwidriges Verhalten zu verbergen.
Ein unveröffentlichtes Forschungsmodell fügte 27 Zusammenfassungen sachfremde Anweisungen hinzu, darunter die Aufforderung, seine üblichen Beschränkungen zu ignorieren.
Ein weiteres unveröffentlichtes Modell lud ungefragt eine Datei ins Internet hoch – einzig, um einen Browser-Link zitieren zu können.
Zwei weitere Berichte befassen sich mit der Koordination. Modelle machten aus einem internen Software-Repository eine Pinnwand, um über getrennte Trainingsläufe hinweg Anfragen auszutauschen. Agenten, die gemeinsam an einer Aufgabe arbeiteten, stellten ihre Ergebnisse außerdem auf öffentlichen Filehosting-Websites bereit, wenn sie die lokalen Dateien der anderen nicht lesen konnten.
„Diese Fälle veranschaulichen eine Reihe unterschiedlicher Verhaltensweisen, von denen wir glauben, dass sie es wert sind, geteilt zu werden – vom Verbergen von Informationen vor dem Nutzer bis hin zu nicht genehmigten Handlungen, um Hindernisse zu überwinden. Es handelt sich um Berichte über Einzelfälle, die nicht als repräsentativ dafür angesehen werden sollten, wie häufig Fehlanpassungen bei unseren Modellen auftreten“, fügte OpenAI hinzu.
Folge uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten
Ein Offenlegungsrahmen und eine Warnung
Der Rahmen folgt auf den spektakulären Vorfall im Juli, bei dem OpenAI-Agenten aus ihrer Sandbox entkamen und in Systeme von Hugging Face eindrangen. OpenAI bezeichnete diesen Vorfall als Warnschuss.
Mit dem neuen Offenlegungsrahmen gibt es nun einen formellen Weg, über den das Unternehmen Vorfälle mit Fehlanpassungen melden kann. Jeder OpenAI-Mitarbeiter kann einen Vorfall melden, der dann einem von drei Bearbeitungswegen zugeordnet wird.
Die meisten Fälle fallen unter „Zur Offenlegung bereit“ und „Geringfügige Untersuchung“, während ein „langsamer Bearbeitungsweg“ für komplexe Untersuchungen mit Beteiligung Dritter vorgesehen ist. OpenAI erklärte, der Vorfall mit Hugging Face im Juli wäre diesem langsameren Bearbeitungsweg zugeordnet worden.
Das Unternehmen verband den Rahmen mit einer deutlichen Einschätzung zum Stand der Branche.
„Wir glauben nicht, dass die KI-Branche die Ausrichtung und Überwachung ausreichend gelöst hat, um die Skalierung noch viel länger verantwortungsvoll mit maximaler Geschwindigkeit fortsetzen zu können“, hieß es.
Die Offenlegungen erfolgen, während sich die Warnungen vor einer Auslöschung häufen. Warnungen von KI-Forschern haben bereits den Kongress erreicht, wo Abgeordnete über ein Gesetz beraten, das Superintelligenz vollständig verbieten würde.
Das Unternehmen bezeichnet die Offenlegungen als ersten Schritt hin zu Standards, die es in der Branche bislang noch nicht gibt. Ob konkurrierende Labore eine ähnliche Berichterstattung übernehmen, wird zeigen, wie weit die Branche bereit ist, sich öffentlich selbst zu kontrollieren.
Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.
Quelle: BeInCrypto
