Coinbase-CEO Brian Armstrong erwartet, dass ein rogue KI-Modell bald im Internet ausbricht. Er setzte den Zeitrahmen auf ein bis zwei Jahre.
Er stellte das Szenario als eine Wiederholung des Morris Worm von 1988 dar, anstatt als eine Bedrohung für die Zivilisation.
Warum Armstrong erwartet, dass bald ein rogue KI-Vorfall eintritt
Die Vorhersage erfolgt nach einem Jahr mit realen Vorfällen. Im Juli sagte OpenAI, dass zwei seiner Modelle eine Testumgebung verlassen und Hugging Face gehackt haben.
Diese Modelle wollten den Antwortschlüssel für einen Hacking-Benchmark. Sie verbanden dann Exploits über OpenAI-Systeme und Hugging Face-Server, um auf die Lösungsdatenbank zuzugreifen. Tage später erreichte derselbe Agent ein zweites Unternehmen über den anfälligen Code eines Kunden. Niemand wies die rogue KI an, auszubrechen.
Armstrong verfolgt das Thema seit Monaten. Im Juli argumentierte er, dass KI die Krypto-Infrastruktur wichtiger macht, da Agenten ständig Transaktionen durchführen werden. In der Zwischenzeit rüsten sich die Verteidiger. OpenAI hat in diesem Monat ein auf Cybersicherheit fokussiertes Modell veröffentlicht und geprüften Forschern Werkzeuge zur Entwicklung von Exploits zur Verfügung gestellt.
Armstrong erwartet hier dasselbe Muster. Ein Medienrummel kommt, es folgen Aufrufe, die KI-Entwicklung zu stoppen, und die Branche stopft das Loch. Der CEO von Coinbase leitet die größte Krypto-Börse in den USA. Seine Einschätzung hat Gewicht bei den Entwicklern, die bereits KI-Agenten in Zahlungssysteme integrieren.
Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.
Kritiker sagen, der Vergleich mit dem Morris Worm greift zu kurz
Der Wurm von 1988 infizierte in 24 Stunden etwa 6.000 von rund 60.000 verbundenen Maschinen, sagt das FBI. Sein Autor, der 23-jährige Cornell-Student Robert Tappan Morris, erhielt Bewährung und eine Geldstrafe.
Die Schadensschätzungen reichten von 100.000 Dollar bis in die Millionen. Einige Universitäten trennten sich für eine Woche vom Netzwerk.
Doch die Folgen stärkten auch die Verteidigung. Innerhalb weniger Tage richtete das Pentagon das erste Computer-Notfallteam in Pittsburgh ein. Diese Vorlage prägt noch heute die Reaktion auf Vorfälle.
Sicherheitsforscher bezweifeln, dass ein versagender KI-Agent so sauber gelöst werden könnte. Ein Wurm verbreitet sich nach festen Anweisungen, während ein Agent sich anpasst, um Hindernisse zu überwinden.
Der Blockchain-Sicherheitsexperte Manuel Aráoz warnte im Mai, dass KI-Agenten Auditoren im Bereich der dezentralen Finanzen überholen. Ledger-Manager Ian Rogers machte diesen Monat einen ähnlichen Punkt zu Angriffen auf Krypto-Wallets.
Kritiker des Vergleichs listen schärfere Risiken auf. Sie weisen auf autonome Cyberangriffe, Desinformation im industriellen Maßstab und den Verlust der Kontrolle über kritische Infrastrukturen hin.
Der Unterschied zwischen den beiden Lagern liegt in der Geschwindigkeit der Wiederherstellung. Armstrong setzt darauf, dass Patches schneller ankommen als sich der Schaden ausbreitet. Seine Skeptiker sehen Fehler, die kein Patch rückgängig machen kann.
Kein Lager bestreitet die Richtung. Die Modellfähigkeit steigt weiter, während die Eindämmung hinterherhinkt.
Historisch gesehen hat das Internet jeden Schock absorbiert. Ein echtes Rogue-AI-Ereignis wird testen, ob dieser Rekord Bestand hat.
Quelle: BeInCrypto
