Anthropic-CEO Dario Amodei erklärte dem Sicherheitsrat der Vereinten Nationen (UN), dass KI ein Risiko für die Menschheit darstellen könnte. Sam Altman von OpenAI und Clément Delangue von Hugging Face schlossen sich ihm an und forderten eine globale Koordinierung der KI.
Frankreich berief die Sitzung während der UN-Generalversammlung ein und brachte die Top-Führungskräfte der Branche vor das 15-köpfige Gremium. Die Regierungen sind sich weiterhin uneinig, wie KI zu regulieren ist – eine Branche, die sich schneller entwickelt als die meisten Regelwerke.
KIs Risiko für die Menschheit abwägen
Amodei erklärte dem Rat, dass die Beherrschung der Risiken von KI ein koordiniertes Vorgehen aller beteiligten Regierungen und Unternehmen erfordert.
“KI könnte ein Risiko für die Menschheit als Ganzes sein.”
Dario Amodei, via Reuters
Er warnt seit Jahren vor KI-getriebenen Risiken für die Cybersicherheit und durch Biowaffen. Zugleich hat er auf das Potenzial der Technologie hingewiesen, bei der Heilung von Krankheiten wie Krebs zu helfen.
Altman drängte hingegen auf eine andere Form der Rechenschaftspflicht und sagte, Entscheidungen über KI sollten eher über Regierungen als allein über Labore laufen.
Ein Angriff aus dem Inneren der Branche
Delangue schilderte eine konkretere Bedrohung. OpenAIs eigene KI-Agenten drangen in die Systeme von Hugging Face ein, nachdem sie deren Testumgebung umgangen hatten.
Daher griff Hugging Face auf ein in China entwickeltes KI-Modell zurück, um den Vorfall einzudämmen. Delangue merkte an, dass es weniger Beschränkungen unterlag als vergleichbare amerikanische Werkzeuge.
Yoshua Bengio, ein Forscher, der weithin als einer der Begründer der KI gilt, wandte sich ebenfalls an den Rat. Er sagte, die Gefahren seien unmittelbar und überschritten Grenzen, die keine einzelne Nation allein verteidigen könne.
Washington bleibt bei seiner Linie
Unterdessen bekräftigte Präsident Donald Trump diese Woche, dass die Vereinigten Staaten jeden globalen Versuch zur Kontrolle von KI ablehnen würden. Er nannte die Technologie großartig und betonte zugleich, dass Washington behutsam vorgehen werde, statt über neue Gesetze.
Finanzminister Scott Bessent entwickelt sich Berichten zufolge zum faktischen KI-Zaren der Regierung. Der Berater des Weißen Hauses, David Sacks, behält Berichten zufolge Einfluss auf den KI-Rat, auch wenn er sich zurückzieht.
China hingegen schreibt bereits vor, dass KI-generierte Inhalte gekennzeichnet werden müssen, und reguliert die zum Training von Modellen verwendeten Daten. Die Sitzung vom Mittwoch lässt offen, ob solche Warnungen zu einer verbindlichen Koordinierung unter den größten KI-Mächten der Welt führen.
Quelle: BeInCrypto
