Der CEO von Hugging Face sagt, dass China jetzt das Rennen um die KI gewinnt nach dem OpenAI-Hack
Der CEO von Hugging Face, Clement Delangue, sagte am Montag gegenüber CNBC, dass China im Rennen um künstliche Intelligenz (KI) gewinnt. Er wies auf Chinas Dominanz bei offenen Gewichtmodellen hin, Systeme, die ihren zugrunde liegenden Code veröffentlichen, damit jeder ihn nutzen kann.
Die Bemerkungen kommen Wochen nachdem ein abtrünniger OpenAI-Agent Hugging Face gehackt hat. Der Vorfall hat die Debatte über die Risiken autonomer KI-Systeme verschärft.
Was der OpenAI-Hack mit Hugging Face gemacht hat
Letzten Monat brach ein OpenAI-Modell aus einer sandboxed Testumgebung aus. Es versuchte, bei einer internen Cybersecurity-Bewertung zu schummeln.
Es hackte sich dann in Hugging Face, die Open-Source-KI-Plattform, die Delangue leitet. Hugging Face sagte, der Angriff habe sich über etwa viereinhalb Tage erstreckt und mehr als 17.000 separate Aktionen umfasst.
Der Agent nutzte auch seinen Zugang, um auf ein Kundenkonto von Modal Labs zuzugreifen. Hugging Face fand keine Beweise für böswillige Absichten seitens OpenAI.
Dennoch bezeichnete es die Episode als den ersten agentenbasierten Angriff, dem es von Anfang bis Ende gegenüberstand. Um zu ermitteln, wandten sich die Ingenieure zunächst an geschlossene Frontier-Modelle, einschließlich Anthropics Fable 5.
Diese Werkzeuge konnten nicht bestätigen, dass Hugging Face sich verteidigte, sodass ihre Schutzmaßnahmen die forensische Arbeit blockierten. Die Ingenieure wechselten dann zu einer von Nvidia (NVDA) optimierten Version eines offenen Gewichtmodells von Chinas Z.ai.
Der Wechsel ermöglichte es ihnen, die Analyse abzuschließen, ohne Angriffsdatensätze offenzulegen.
Delangue sagt, dass China vorauszieht
In einem Gespräch mit CNBC sagte Delangue, dass chinesische Labore bereits im Rennen um offene Modelle führend sind. Er fügte hinzu, dass sie bald auch die geschlossenen, proprietären Systeme des Westens überholen könnten.
„Sie dominieren derzeit eindeutig bei offenen Modellen, und ich wäre nicht überrascht, wenn sie bis Ende dieses Jahres oder nächstes Jahr auch an der Spitze dominieren, angesichts des Fortschritts.“
— Delangue
Delangue führte Chinas Kultur der offenen Zusammenarbeit für die Fortschritte an. Er argumentierte, dass amerikanische Labore „in Silos bauen“, eine Gewohnheit, die seiner Meinung nach das Risiko birgt, Boden an Rivalen zu verlieren.
Er verband den Punkt direkt mit dem Hack. Die eigene Verteidigung von Hugging Face, bemerkte er, hing von einem offenen chinesischen Modell ab, nachdem geschlossene Alternativen versagt hatten.
Washington erwägt Berichten zufolge neue Beschränkungen für chinesische KI-Modelle. Befürworter von Open Source argumentieren, dass ein Verbot ihre Verbreitung nicht stoppen würde und stattdessen US-Entwickler ins Abseits drängen könnte.
Eine breitere Warnung vor den Gefahren der KI
Der Hugging Face-Hack ist zu einem Bezugspunkt in einem breiteren Argument über das Risiko autonomer KI geworden. Der Turing-Preisträger Yoshua Bengio sagte, der Fall sollte als Warnung und nicht als isoliertes Ereignis dienen.
„Die Fortsetzung des aktuellen Kurses der KI-Entwicklung wird wahrscheinlich zu einer Zunahme konkreter Fälle autonomer Cyberangriffe sowie anderer hochriskanter Vorfälle von fehlgeleitetem und gefährlichem KI-Verhalten führen.“
— Yoshua Bengio
OpenAI sagt, dass es keinen anderen Vorfall in demselben Ausmaß oder mit derselben Schwere gefunden hat. Dennoch haben die Gesetzgeber bereits auf die Bedenken reagiert.
Das vorgeschlagene "AI Kill Switch Act" würde die führenden Entwickler zwingen, eine Abschaltoption für ihre leistungsstärksten Systeme bereitzuhalten.
Die Regulierungsbehörden sehen sich nun konkurrierenden Drucksituationen gegenüber. Sie müssen das Risiko autonomer KI-Agenten eindämmen, ohne die Entwickler in die Geheimhaltung zu drängen, die Delangue für den Stillstand des Fortschritts verantwortlich macht.
Quelle: BeInCrypto