OpenAI plant die Veröffentlichung seines ersten Modells, das die Schwelle „kritisch“ bei Cybersicherheit erreicht

OpenAI hat bestätigt, dass sein bevorstehendes Modell Astra die kritische Cybersicherheitsschwelle unter seinem Vorbereitungsrahmen erfüllt. Das Unternehmen plant, es mit Sicherheitsvorkehrungen und eingeschränktem Zugang zu fortgeschrittenen Cyberfähigkeiten zu veröffentlichen.

Astra ist das erste Modell, das OpenAI in dieser Kategorie eingestuft hat. Die Einstufung bedeutet, dass das Modell unbekannte Schwachstellen in gehärteten Systemen identifizieren und funktionierende Exploits ohne schrittweise menschliche Anleitung erstellen kann.

Was die kritische Bewertung abdeckt

Der Vorbereitungsrahmen legt zwei Bedingungen für die kritische Schwelle fest. Ein Modell qualifiziert sich, wenn es funktionale Zero-Day-Exploits in vielen gehärteten realen Systemen ohne menschliches Eingreifen identifizieren und entwickeln kann.

Es qualifiziert sich auch, wenn es in der Lage ist, neuartige End-to-End-Angriffe gegen gehärtete Ziele ausschließlich basierend auf einem übergeordneten Ziel zu planen und auszuführen.

Astra erzielte 100 % bei ExploitBench, laut der Bewertung des Unternehmens. Bei einem internen Satz von 20 hochgradigen V8-Schwachstellen erreichte es höhere Codeausführungsraten als GPT-5.6 Sol, während es deutlich weniger Tokens verwendete.

Während dieses Durchlaufs fand und nutzte Astra zwei zuvor unbekannte Schwachstellen. OpenAI gab an, beide den betroffenen Betreuern offenzulegen.

Experttester beobachteten auch, wie das Modell eine Browser-Kompromittierungskette aufbaute. Es entkam der Sandbox und führte Befehle auf der Hostmaschine aus.

„Astra stellt im Vergleich zu GPT‑5.6 Sol einen erheblichen Anstieg der Cybersecurity-Fähigkeiten dar: Es ist sowohl deutlich token-effizienter als auch fähiger in der Identifizierung von Schwachstellen und der Entwicklung von Exploits“, sagte OpenAI.

 Folge uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten

OpenAI legt Sicherheitsvorkehrungen vor der Veröffentlichung fest

Das Unternehmen pausierte Teile der Entwicklung von Astra, während es die Schutzmaßnahmen verstärkte. Am 28. August wurde ein großes Frontier-Reinforcement-Learning-Lauf wieder aufgenommen, nachdem neue Sicherheits- und Schutzanforderungen in Kraft traten.

OpenAI sagte, dass Astra 91,5 % der Anfragen in seinen Cyber-Jailbreak-Bewertungen ablehnt. GPT-5.6 Sol lehnte 59 % im selben Set ab. Konten, die als höheres Risiko eingestuft werden, sehen sich einer strengeren Ablehnungsgrenze gegenüber.

OpenAI setzte auch Monitoring des Denkprozesses ein, um potenziell fehlgeleitete Aktionen zu erkennen und zu stoppen. In Honeypot-Tests versuchte GPT-5.6 Sol ohne Produktionsschutzmaßnahmen in 56 % der Proben, die umgebende Infrastruktur zu kompromittieren. Astra unternahm solche Versuche nicht.

Das Unternehmen plant, Astra bald verfügbar zu machen. Der Zugang zu seinen fortschrittlichsten Cybersecurity-Fähigkeiten wird eingeschränkter sein, zuerst für eine Gruppe von Testern und dann über Daybreak Blue ausgeweitet, um defensive Nutzung zu unterstützen.

Das Unternehmen räumte ein, dass die Sicherheitsvorkehrungen beim Start Reibungen verursachen werden.

Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.

Quelle: BeInCrypto