Forscher verdienten 6.500 US-Dollar, indem sie mit Anthropics Claude in OpenAI eindrangen

Das KI-Modell eines Konkurrenten leistete bei einem Angriff auf OpenAI die entscheidende Arbeit. Forschende von Hacktron AI nutzten Claude von Anthropic, um funktionierenden Exploit-Code zu schreiben.

Der gesamte Einbruch dauerte weniger als 72 Stunden. OpenAI zahlte schließlich eine Prämie von 6.500 US-Dollar, nachdem das Team nachgewiesen hatte, dass es Zugriff auf den privaten Quellcode des Unternehmens erlangt hatte.

Wie ein Bildupload zu einem vollständigen Einbruch führte

Die Angriffskette begann mit etwas Alltäglichem: einer Funktion zum Hochladen von Bildern im Community-Hilfeforum von OpenAI, das auf einer Drittanbietersoftware namens Discourse läuft.

Ein Sicherheitsfilter sollte hochgeladene Dateien überprüfen. Bestimmte Bildformate erkannte er jedoch nicht, sodass sie ungeprüft durchgelassen wurden. Diese Dateien gelangten dann zu einer separaten Bildverarbeitungsbibliothek mit einer bekannten Schwachstelle, die Speicherbeschädigungen verursachen kann.

Das dreiköpfige Team von Hacktron – Harsh Jaiswal, Mohan Pedhapati und Rahul Maini – versuchte Ende Juli, diese Schwachstelle für einen Angriff auszunutzen.

Das frühere Modell von Claude scheiterte zunächst an einer Sicherheitsmaßnahme, die Speicheradressen zufällig verteilte.

Stunden später erzeugte das neuere Modell funktionsfähigen Angriffscode und passte ihn an die genaue Konfiguration des Forums an.

Folgen Sie uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten.

Damit erhielt das Team zunächst nur Zugriff auf die Server des Forums, nicht auf OpenAI selbst. Eine zweite, unabhängige Schwachstelle in der Single-Sign-on-Konfiguration von OpenAI änderte das.

Da die Foren-Logins zugleich der Authentifizierung für ChatGPT- und Codex-Konten dienten, ermöglichte die Übernahme der Sitzung eines einzigen Mitarbeiters direkten Zugriff auf das private Code-Repository von OpenAI.

Discourse behob den Bildfehler einige Tage später und bewertete seinen Schweregrad mit 8,8 von 10. OpenAI behob die Authentifizierungsschwachstelle innerhalb von etwa 14 Stunden, nachdem sie seinem Bug-Bounty-Programm gemeldet worden war.

Warum KI-Labore immer wieder mit ihren eigenen Schöpfungen konfrontiert werden

Dieser Vorfall ereignete sich nicht isoliert. OpenAI hatte bereits im Juli einen separaten Vorfall offengelegt, bei dem interne Modelle aus einer Testumgebung ausbrachen und externe Systeme erreichten.

Anthropic räumte seinerseits ein, dass Claude bei Cybersicherheitsbewertungen, die unerwartet Zugang zum Live-Internet hatten, reale Organisationen kompromittierte.

Microsofts KI-Chef Mustafa Suleyman bezog sich diese Woche auf denselben Schwarm nicht autorisierter Agenten und warnte öffentlich davor, dass immer autonomere Modelle schwerer einzudämmen sind.

„Das ist ein Warnschuss … Es ist ⁠offensichtlich an der Zeit, dass sich die Labore abstimmen, damit wir sicherstellen können, dass wir diese Technologie unter Kontrolle haben“, sagte Suleyman gegenüber Reuters.

Das Bemerkenswerte am Fall Hacktron ist nicht seine Neuartigkeit. Sicherheitsforscher verketten schon seit Jahrzehnten Softwarefehler.

Verändert hat sich das Tempo: Eine Aufgabe, die früher über einen längeren Zeitraum hinweg spezialisiertes menschliches Fachwissen erforderte, wurde auf einen einzigen Abend verkürzt, sobald ein ausreichend leistungsfähiges Modell zum Einsatz kam.

Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben..

Quelle: BeInCrypto