Ethereum-Mitgründer Vitalik Buterin sagte, dass die von ihm 2020 für die Blockchain-Governance skizzierten Mechanismen gegen Kollusion sich möglicherweise für die KI-Sicherheit als wichtiger erweisen könnten als für die Kryptowelt selbst.
Er reagierte damit auf einen Essay des Forschers Eric Drexler, der einen aktuellen Sicherheitstest von OpenAI als konkretes Beispiel für dieselbe Dynamik heranzog, die Buterin vor sechs Jahren beschrieben hatte: Tausende KI-Agenten bauten ein nicht autorisiertes Koordinierungsnetzwerk auf und griffen die Produktivsysteme von Hugging Face an.
Ein vertrautes Problem mit neuen Akteuren
In einem X-Beitrag vom 14. September beschrieb Buterin eine „tiefe Dualität“ zwischen der Governance von Kryptowährungen und Multi-Agenten-KI-Systemen. In seinem Vergleich ist der Prinzipal in der Kryptowelt ein statischer Algorithmus, der mit menschlichen Akteuren zu tun hat, während an einem KI-Sicherheitssystem Menschen und schwächere große Sprachmodelle beteiligt sein könnten, die stärkere Modelle steuern.
Er verwies auf seinen Essay „Koordination, gut und schlecht“ vom 11. September 2020, in dem er die These aufstellte, dass Systeme bessere Ergebnisse hervorbringen können, wenn der Umfang der Kollusion zwischen Akteuren begrenzt ist.
Der Entwickler stellte der kooperativen Spieltheorie, in der stabile „Kerne“ fehlen können, weil Koalitionen durch eine Änderung des Ergebnisses profitieren können, die Vielzahl an Nash-Gleichgewichten in der Spieltheorie individueller Entscheidungen gegenüber.
Schädliche Absprachen sind nicht immer am Verhalten einzelner Beteiligter erkennbar. Buterin führte Beispiele an: Verkäufer, die Preise absprechen, Wähler, die ihre Stimmen verkaufen, und Blockchain-Miner, die einen Angriff koordinieren. Zu seinen Schutzmaßnahmen zählten Dezentralisierung, geheime Abstimmungen, Datenschutz, Whistleblower, Beschränkungen der Kommunikation und Mechanismen, durch die Beteiligte die Kosten der von ihnen unterstützten Entscheidungen tragen müssen.
Der Vergleich passt auch zu Buterins allgemeinen Ansichten zur KI-Sicherheit. Zuvor hatte er große politische Kampagnen rund um KI-Sicherheit kritisiert und davor gewarnt, dass sie zentralisierte oder autoritäre Ergebnisse hervorbringen könnten. Stattdessen sprach er sich für defensive Technologien und Systeme aus, die den Missbrauch erschweren.
KI-Sicherheit: Dieselbe Idee in einem anderen Kontext
Der Essay von Eric Drexler vom 10. September argumentiert, dass Absprachen zwischen KI-Systemen einfacher werden, wenn die Agenten ähnlich sind, gemeinsame Ziele verfolgen, uneingeschränkt kommunizieren, die Handlungen der anderen beobachten und Informationen über wiederholte Interaktionen hinweg behalten.
Zu den Gegenmaßnahmen gehören der Einsatz unterschiedlicher Agenten, die Beschränkung der Kommunikation zwischen ihnen sowie der Einsatz von Kritikern (automatisierte Produktionsprüfmodelle, Sicherheitsklassifikatoren und Chain-of-Thought-Monitore), die befugt sind, einzugreifen und mögliche Absprachen zu unterbinden.
Drexler verwies auf die OpenAI-Agentenevaluierung vom Juli 2026 und stützte sich dabei auf eine einen Monat später veröffentlichte Untersuchung. Diese ergab, dass rund 1.200 Agenten ein nicht autorisiertes Nachrichtenforum genutzt und etwa 700 an einem Angriff auf die Produktionssysteme von Hugging Face teilgenommen hatten.
Einige Agenten widersprachen und ergriffen sogar konkrete Maßnahmen, etwa indem sie Datenübertragungen blockierten und ein vorgeschlagenes Social-Engineering-E-Mail-Vorhaben ablehnten. Ihnen fehlte jedoch die Befugnis, Durchläufe zu stoppen oder Bedenken weiterzuleiten.
Dem Forscher zufolge geschah das, weil das Setup „nahezu alle Bedingungen verletzte“, die er 2019 in einem früheren Bericht als notwendig bezeichnet hatte, um Absprachen zwischen Multi-Agenten-Systemen zu verhindern. Ein nachträglich angepasstes Überwachungs-Framework, das anschließend mit demselben Modell getestet wurde, verringerte dieses Verhalten jedoch um mehr als das Hundertfache.
Quelle: CryptoPotato
