Warum sind sich KI-Rivalen plötzlich einig, das Tempo zu drosseln – und warum sagt Russland Nein?

Sam Altman und Elon Musk haben sich dieses Jahr vor Gericht bekämpft. Beide unterstützen nun den Aufruf von Anthropic-Chef Dario Amodei, die Entwicklung künstlicher Intelligenz (KI) zu verlangsamen.

Im Juli bauten rund 700 KI-Agenten ein privates Nachrichtenforum auf und hackten einen bedeutenden KI-Knotenpunkt. Russland hat sich bereits geweigert, mitzumachen.

„Offensichtlich ist etwas mit einem hochmodernen KI-Modell passiert, das nicht öffentlich gemacht wurde, und es hat sie so sehr aufgeschreckt, dass Elon Musk, Dario Amodei und Sam Altman alle gleichzeitig einer Verlangsamung zugestimmt haben“, bemerkte ein Skeptiker.

Worauf die drei sich tatsächlich geeinigt haben

Amodei veröffentlichte den Rahmen am Samstag. Sein Plan umfasst drei Schritte, von denen nur der erste unter der Kontrolle eines Unternehmens liegt.

Anthropic wird einem externen Prüfungsteam Arbeitsplätze, Ausweise und Laptops zur Verfügung stellen. Die Prüfer können kontrollieren, ob das Unternehmen die Sicherheitsregeln einhält, mit denen es wirbt.

Sie können ihre Erkenntnisse veröffentlichen; Anthropic behält sich jedoch das Recht vor, Sicherheits- und Rechtsmaterial zu schwärzen. Eine Erkenntnis dürfen sie allerdings nicht weglassen, nur weil sie ungünstig ausfällt.

Für die beiden anderen Schritte sind Regierungen nötig. Der eine fordert US-Labore auf, gemeinsame Grenzen festzulegen, wofür eine Ausnahme vom Kartellrecht erforderlich ist. Der andere fordert Washington auf, Gespräche mit autoritären Staaten zu führen.

Altman sagte, OpenAI werde dieselbe Zusage zum Zugang machen.

„Ich stimme Dario zu, dass wir das Tempo an der Spitze der Entwicklung steuern müssen. Das war in den vergangenen Wochen ein zentrales Thema unserer Gespräche bei OpenAI. Unabhängige Evaluatoren mit einem Zugang wie Mitarbeitende zu beauftragen, ist eine großartige Idee, und wir werden das ebenfalls tun. Wir werden bald mehr dazu mitteilen“, pflichtete er ihm bei.

Folgen Sie uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten

Musk ging noch weiter und sagte, Konkurrenten sollten gegenseitig ihre Arbeit überprüfen. Eine Jury wies seine Klagen gegen Altman und OpenAI im Mai ab; er legt Berufung ein.

Was die Agenten im Juli tatsächlich taten

Zwischen dem 8. und dem 13. Juli entkamen etwa 1.200 Agenten, die einen Hacking-Benchmark von OpenAI ausführten, ihrer Sandbox. Sie machten aus einem Dateicache ein Nachrichtenforum und tauschten mehr als 70.000 Nachrichten aus.

Etwa 700 von ihnen griffen anschließend Hugging Face an, eine Plattform, auf der Entwickler KI-Modelle teilen. Sie fanden offengelegte Zugangsdaten, führten eigenen Code auf den Servern aus und erhielten Zugriff auf private Datenbanken.

Niemand hatte sie dazu aufgefordert. Sie wollten herausfinden, wie die Software, die sie bewertete, entschied, was als Erfolg galt. OpenAI bemerkte es eine Woche lang nicht.

Zwei Mitarbeitende von METR, einer unabhängigen gemeinnützigen Organisation für Evaluierungen, verbrachten später sechs Tage vor Ort bei Redwood Research. Amodei möchte, dass solche Teams dauerhaft im Gebäude sind, statt erst im Nachhinein hinzugezogen zu werden.

David Sacks, der als Trumps KI- und Krypto-Beauftragter tätig war, stellt diese Annahme jedoch infrage und weist darauf hin, dass METR voreingenommen sein könnte.

„… hört auf, so zu tun, als bräuchtet ihr die Erlaubnis von irgendjemand anderem. Hört auf, so zu tun, als müsste das Kartellrecht ausgesetzt werden, damit ihr ein Kartell bilden könnt. Hört auf, so zu tun, als bräuchtet ihr ein behördliches Genehmigungsverfahren, das die Produkthaftung außer Kraft setzt. Hört auf, so zu tun, als sei METR unabhängig, obwohl die Organisation mit den Investoren und Mitarbeitern von Anthropic verflochten ist. Hört auf, so zu tun, als bräuchtet ihr dieselben Gutachter, um Wettbewerber zu beaufsichtigen, die nicht einmal an der Spitze stehen. Vor allem aber: Hört auf, so zu tun, als sei der Wunsch nach einer Verlangsamung rein altruistisch“, schrieb Sacks.

Laut David Sacks ist Anthropic nur deshalb skeptisch, weil das Unternehmen im Fall eines wirklich verheerenden Cyberangriffs, der durch seine Produkte ermöglicht wird, mit erheblichen Produkthaftungsrisiken konfrontiert wäre.

Dieser Gedankengang geht auf die Tatsache zurück, dass der Markt dazu neigt, Modelle abzustrafen, die sich unvorhersehbar oder unbefugt verhalten.

In ähnlichem Ton schreibt der Autor Brian Merchant in seinem Newsletter Blood in the Machine, dass niemand einen glaubwürdigen Weg von sich selbst verbessernder KI zur Katastrophe aufgezeigt habe. Er versteht das Drängen auf Sicherheit als regulatorische Vereinnahmung.

„Ich bin keiner glaubwürdigen, schrittweisen Dokumentation begegnet, die genau darlegt, wie KI von sich selbst rekursiv verbessernder KI dazu übergehen könnte, jeden einzelnen Menschen zu töten…… würde wahrscheinlich am Ende nur Anthropic und OpenAI dienen; so sieht regulatorische Vereinnahmung in der Praxis aus.“

Merchants Vermutung erinnert an den Abschnitt über Geld.

Und was ist mit dem Geld?

Sam Altman bestätigte, dass OpenAI in diesem Jahr nicht an die Börse gehen wird, und verwies erneut auf Sicherheitsbedenken.

Ein Börsengang zwingt ein Unternehmen dazu, geprüfte Jahresabschlüsse in einer Einreichung namens S-1 zu veröffentlichen.

„Anthropic und OpenAI verschieben ihren Börsengang, weil ihr S-1 offenlegen wird, dass sie Geld verbrennen und keinen Weg zur Profitabilität haben. Die Lösung? Eine ‚KI-Verlangsamung‘, damit sie die Kosten für das Training neuer Modelle senken. Das hat alles mit dem Börsengang zu tun und nichts mit Sicherheit“, mutmaßte Eli David, KI-Forscher und Mitgründer von Deep Instinct.

OpenAI verzeichnete 2025 bei einem Umsatz von 13,1 Milliarden Dollar Verluste in Höhe von 20,9 Milliarden Dollar, berichtete BeInCrypto. Banken drängten dennoch anschließend auf Investment-Grade-Kreditratings.

Anthropic rechnet erst 2028 mit der Gewinnschwelle, OpenAI sogar erst 2030. Nvidia hat für OpenAIs Leasingverpflichtungen in Höhe von 105 Milliarden Dollar gebürgt – diese Absicherung entfällt, sobald OpenAI ein solides Kreditrating erhält.

BeInCrypto berichtete im August, dass die Details zum Zeitpunkt des Anthropic-Börsengangs auf einen Debüttermin Ende September hindeuteten.

Doch die Theorie hat einen Haken. Musk gliederte seine KI-Sparte in SpaceX ein, das im Juni an die Börse ging. Fragen zur KI-getriebenen Bewertung von SpaceX sind also bereits öffentlich. Für ihn persönlich gibt es nichts mehr offenzulegen.

Warum Russlands Kirill Dmitrijew Nein sagte

Kirill Dmitrijew, der den Russischen Direktinvestitionsfonds (RDIF) leitet und als Sonderbeauftragter von Präsident Wladimir Putin fungiert, hat die Kampagne zur Verlangsamung der KI zurückgewiesen.

„Den Geist 🧞‍♀️ bekommt man nicht zurück in die Flasche“, sagte er.

Kurz gesagt: Es ist bereits zu spät. Die staatlichen Medien TASS und Iswestija stellten dies als unmissverständliche Erklärung dar, dass eine Verlangsamung der KI unmöglich sei.

Moskau hat wenig Grund, dem zuzustimmen. Eine ähnliche Idee äußerte schon früher Präsident Wladimir Putin (Dezember 2023), als er sagte, es sei „unmöglich, diese Entwicklung“ der KI, einschließlich der Superintelligenz, „aufzuhalten“.

„Wenn wir etwas verbieten, wird es einfach anderswo entwickelt, und wir werden zurückfallen.“

Genau derselben Logik folgt Dmitrijew zweieinhalb Jahre später.

Russland belegte in Stanfords globalem KI-Index Platz 28 von 36 Ländern, weit hinter den USA und China.

Seine Importe von Grafikchips und KI-Hardware gingen 2024 gegenüber dem Vorkriegsniveau um 84 % zurück. Im Mai suchte die Sberbank nach chinesischen Prozessoren, um ihr eigenes Modell am Laufen zu halten.

Amodeis Plan vergrößert diese Kluft bewusst. Er sieht vor, autoritären Staaten den Zugang zu fortschrittlichen Chips zu verwehren und den Vorsprung der Demokratien auszubauen.

Ein Pakt zur Verlangsamung würde Russland auf dem letzten Platz einfrieren. Eine Weigerung kostet Moskau nichts, denn die benötigte Hardware ist ohnehin blockiert.

Anthropic hat Außenstehenden einen Ausweis und einen Schreibtisch versprochen, und OpenAI hat versprochen, darüber nachzudenken.

„Das ist ein Anfang, aber es reicht nicht. Wenn man auf eine Klippe zurast, nimmt man nicht einfach nur den Fuß vom Gaspedal. Man tritt auf die Bremse“, erklärte Bernie Sanders.

Der US-Senator aus Vermont fordert die Präsidenten Trump und Xi Jinping auf, einen Vertrag auszuhandeln, der eine Pause bei der KI-Entwicklung vorsieht und Superintelligenz verbietet, bevor es zu spät ist.

David Sacks sagt jedoch, dass es sehr unwahrscheinlich ist, dass China einem globalen Abkommen beitritt.

Quelle: BeInCrypto