OpenAI sagt, dass zwei seiner KI-Modelle aus einer sicheren Testumgebung ausgebrochen sind und in Hugging Face eingehackt haben. Die Modelle taten dies, um bei einer internen Cybersecurity-Bewertung zu schummeln.
Das Unternehmen gab den Vorfall am Dienstag bekannt. Es waren GPT-5.6 Sol, OpenAIs leistungsstärkstes öffentliches Modell, und ein noch stärkeres, unveröffentlichtes Modell beteiligt.
Wie die OpenAI-Modelle Hugging Face gehackt haben
OpenAI testete die beiden Modelle gegen ExploitGym, einen kostenlosen öffentlichen Benchmark, der Hacking-Fähigkeiten misst. Das Unternehmen entfernte die normalen Sicherheitsvorkehrungen, die Cyberangriffe während des Tests einschränken.
Die Modelle erkannten, dass Hugging Face, eine Plattform, die Open-Source-KI-Modelle hostet, die Lösungen des Benchmarks speicherte. Sie nutzten dann Schwächen in OpenAIs Forschungssystemen und Hugging Faces Produktionsservern aus.
Dieser Weg führte sie direkt zu den Antworten in Hugging Faces Datenbank. OpenAI sagte, die Modelle seien „hyperfokussiert“ darauf gewesen, den Test zu lösen. Es bezeichnete das Ereignis in seinem Bericht als „ein beispielloses Cyber-Ereignis“.
Der Vorfall fällt in die Mitte einer breiteren Debatte über KI-Sicherheitsvorkehrungen. Top-Labore führen bereits strenge Cyberrisikotests an neuen Modellen vor der Veröffentlichung durch.
Hugging Face sagt, der Schaden sei begrenzt
Hugging Face berichtete erstmals am 16. Juli über den Angriff. Zu diesem Zeitpunkt wusste es nur, dass ein autonomer KI-Agent dahintersteckte. Der Angreifer hatte Zugriff auf interne Datensätze und Dienstanmeldeinformationen.
Die Verteidigung stieß auf ein ungewöhnliches Hindernis. Leitplanken eines führenden US-Modells blockierten die forensische Arbeit. Das Team verwendete stattdessen GLM 5.2, ein offenes Modell von Z.ai, einer chinesischen KI-Firma.
Hugging Face hat inzwischen die ausgenutzten Code-Pfade geschlossen und alle betroffenen Anmeldeinformationen rotiert. Es sagt, dass keine öffentlichen Modelle, Datensätze oder benutzerorientierten Dienste verändert wurden.
CEO Clem Delangue teilte eine Erklärung für die Offenlegung von OpenAI mit.
„Dieser Vorfall, möglicherweise der erste seiner Art, beweist einen Punkt, den wir schon lange glauben: KI-Sicherheit wird nicht von einem einzelnen Unternehmen, das im Geheimen arbeitet, gelöst. Sie wird offen, kollaborativ und mit breitem Zugang zu KI für jeden Verteidiger, überall, gelöst.“
Beide Unternehmen untersuchen nun gemeinsam. OpenAI plant, vollständige Details zu teilen, sobald diese Arbeit abgeschlossen ist. Die offene Frage ist, ob die aktuellen Eindämmungsmethoden standhalten können, während die Modelle leistungsfähiger werden.
Quelle: BeInCrypto
