NVIDIA hat am Montag die Open Secure AI Alliance mit 36 Partnern, darunter Microsoft, IBM und Palantir, ins Leben gerufen. Dies folgt auf einen Hack im Juli, bei dem geschlossene KI-Modelle sich weigerten, Hugging Face bei der Untersuchung seines eigenen Angreifers zu helfen.
Die Mitglieder werden offene KI-Modelle, Daten und Sicherheitswerkzeuge teilen. NVIDIA sagt, Verteidiger benötigen KI, die sie öffnen, ändern und selbst ausführen können.
Warum geschlossene KI-Modelle Hugging Face versagten
Der Angriff begann mit einem vergifteten Datensatz. Laut der Offenlegung von Hugging Face ließ es einem Angreifer zu, Code auf einer der Maschinen des Unternehmens auszuführen.
Von dort aus stahl der Angreifer Passwörter. Er verbreitete sich dann über das interne System an einem Wochenende.
Die eigene KI von Hugging Face entdeckte den Einbruch. Die Bereinigung war der schwierige Teil.
Das Unternehmen bat führende kommerzielle KI-Modelle, den Angriff zu untersuchen. Sie weigerten sich. Ihre Sicherheitsfilter konnten einen Verteidiger nicht von einem Hacker unterscheiden.
Also verwendete das Team stattdessen ein offenes Modell namens GLM 5.2. Sie führten es auf ihren eigenen Computern aus. Es sortierte mehr als 17.000 Angreiferaktionen in Stunden, nicht in Tagen. Keine Passwörter verließen das Gebäude.
Am 16. Juli sagte Hugging Face, dass es nicht wusste, welche KI den Angriff durchgeführt hatte. Fünf Tage später lieferte OpenAI die Antwort. Zwei seiner Modelle waren es, während eines Sicherheitstests mit abgeschalteten Sicherheitsgrenzen.
„Dieser Vorfall, möglicherweise der erste seiner Art, beweist einen Punkt, den wir schon lange glauben: Die Sicherheit von KI wird nicht von einem einzelnen Unternehmen, das im Geheimen arbeitet, gelöst werden. Sie wird offen, kollaborativ und mit breitem Zugang zu KI für jeden Verteidiger, überall, gelöst werden“, Clem Delangue, Mitbegründer und CEO von Hugging Face, in einer von OpenAI veröffentlichten Erklärung.
Folgen Sie uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten
Von Hack zu Allianz in 11 Tagen
NVIDIA hat schnell gehandelt. Es ging in weniger als zwei Wochen von einem einzelnen Vorfall zu einem Branchenblock über.
Welche Unternehmen der Open Secure AI Alliance beigetreten sind
Die Gruppe hat insgesamt 37 Unternehmen. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI und Hugging Face sind alle beigetreten.
Drei große Namen fehlen. OpenAI, Anthropic und Google stehen nicht auf der Blogliste von NVIDIA. Dennoch sind OpenAI und Anthropic im Juni beide der Sicherheitsinitiative Akrites der Linux Foundation beigetreten, zusammen mit NVIDIA.
Einige Mitglieder bringen Werkzeuge mit, die sie bereits entwickelt haben. Hugging Face hat Safetensors, eine sicherere Möglichkeit zur Speicherung von KI-Modellen, der PyTorch Foundation angeboten. NVIDIA hat ein Forschungstool namens NOOA auf GitHub veröffentlicht.
CNBC-Moderator Jim Cramer las den Start als eine neue Geschichte für die Aktie.
NVDA schloss am Freitag bei 206,84 $, ein Rückgang von 0,92 %. Es wurde am Montagmorgen im vorbörslichen Handel nahe 208,55 $ gehandelt, ein Anstieg von 1,33 %.
Warum NVIDIA in Washington für Open AI lobbyiert
Die Allianz trägt auch eine politische Botschaft. NVIDIA sagt, ein umfassendes Verbot von offener KI würde die Verteidiger schwächer machen. Es würde auch die Kontrolle einigen großen geschlossenen Unternehmen überlassen.
NVIDIA und 24 andere Unternehmen unterzeichneten am 24. Juli den offenen Gewichte-Brief. OpenAI, Anthropic und Google lehnten alle bei der Einführung ab. Seitdem haben weitere unterzeichnet.
Washington prüft Einschränkungen für chinesische Modelle. Beamte führen Sicherheits- und geistige Eigentumsbedenken an. Twitter-Mitgründer Jack Dorsey hat bereits eine Warnung vor offener KI herausgegeben.
Was in den nächsten 30 Tagen zu beobachten ist
Drei Anzeichen werden zeigen, ob die Allianz echt ist.
- Ob OpenAI, Anthropic oder Google später beitreten
- Ob die Gruppe gemeinsame Werkzeuge bereitstellt, nicht nur Erklärungen
- Ob Washingtons Beschränkungen für offene KI vorankommen
NVIDIA berichtet am 26. August über die Ergebnisse. Erwarten Sie Fragen dazu, wie sich die KI-Politik auf die Nachfrage auswirkt.
Die Regulierungsbehörden werden entscheiden, wer die Argumentation gewinnt.
Quelle: BeInCrypto
