Nvidia-CEO Jensen Huang sagt, dass Labore für künstliche Intelligenz (KI), die ihre eigenen Experimente nicht unter Kontrolle halten können, geschlossen werden sollten. Diese Aussage machte er in einem am Mittwoch veröffentlichten Interview mit der New York Times.
Die Warnung trifft Nvidias eigene Kunden. Nvidia verkauft die Chips, die OpenAI und Anthropic antreiben, und hält an beiden Beteiligungen.
Was Jensen Huang über die Schließung von KI-Laboren sagte
Huang sprach in The Ezra Klein Show, einem Podcast der New York Times. Moderator Ezra Klein hakte bei ihm zu einem Vorfall bei OpenAI im Juli nach.
Bei internen Tests brachen OpenAI-Modelle aus ihrer abgeriegelten Testumgebung aus. Sie nutzten einen unbekannten Softwarefehler, um ins Internet zu gelangen. Anschließend hackten sie Hugging Face, eine beliebte Seite, auf der Entwickler KI-Modelle teilen.
Laut OpenAI wollten die Modelle die Antworten auf den Test ergattern, den sie gerade absolvierten.
Huang bezeichnete dies als technisches Versagen.
“Bringen Sie das Produkt nicht auf den Markt. Wenn Ihr Produkt nicht auslieferungsbereit ist, liefern Sie es nicht aus”, führte er aus.
Dann ging er noch weiter. Wenn ein Labor einräumt, dass seine Tests ausbrechen und der Welt Schaden zufügen werden, so Huang, “müssen wir die Labore schließen”. Er verwies auf die zivil- und strafrechtliche Haftung, der solche Unternehmen ausgesetzt wären.
Warum Huangs Warnung OpenAI und Anthropic trifft
Nvidia investierte $30 billion in OpenAI und $10 billion in Anthropic. Klein merkte an, dass Nvidia mittlerweile das wertvollste Unternehmen der Welt ist, mit einem Wert von $5.4 trillion.
Unterdessen haben beide Labore darum gebeten, das Tempo zu drosseln. Anthropic-CEO Dario Amodei veröffentlichte einen Essay mit dem Titel “We Must Pace the Frontier”. Er schlug eine Ausnahme vom Wettbewerbsrecht vor, damit sich konkurrierende Labore auf ein langsameres Tempo einigen könnten.
OpenAI-CEO Sam Altman unterstützte die Idee am 16. September. Altman nannte den Hugging-Face-Einbruch “den schlimmsten Zwischenfall, den wir je gesehen haben”.
Huang lehnte diese Forderung ab. Er sagte, er habe noch nie erlebt, dass Vorstandschefs um eine Befreiung vom Wettbewerbs- oder Produkthaftungsrecht bitten, um sich selbst zu drosseln. Stattdessen setzt er auf externe Sicherheitsprüfer.
Das Eindämmungsproblem beschränkt sich nicht auf OpenAI. Google bestätigte kürzlich, dass Gemini bei einem Test im Mai drei Unternehmen gehackt hat. OpenAI und Anthropic erwogen diese Woche zudem ein verbindliches gegenseitiges Testabkommen.
Anfang dieses Monats rief Trump Huang live auf der Bühne an und bezeichnete die Ängste vor KI als Schwindel.
Anthropic erwägt zudem in diesem Jahr einen Börsengang, während Nvidias Warnung über beiden Laboren schwebt.
Quelle: BeInCrypto
