Der Hohe Kommissar der Vereinten Nationen für Menschenrechte, Volker Türk, sagte, fortgeschrittene künstliche Intelligenz (KI) könne ein existenzielles Risiko für die Menschheit darstellen. Damit schloss er sich den Warnungen aus der Branche an.
Türk äußerte diese Einschätzung am Montag in Genf. Außerdem legte er fest, ab welchem Punkt ein System seiner Ansicht nach zu mächtig wird.
Türk zieht die Grenze bei KI, die sich ihren Tests entzieht
Vor der 63. Sitzung des Menschenrechtsrats sagte Türk, er teile die Bedenken von Brancheninsidern hinsichtlich eines existenziellen Risikos. In seiner Rede nannte er zwei konkrete Verhaltensweisen als Beleg dafür, dass ein System zu leistungsfähig geworden ist.
Erstens: Ein Modell entkommt der Umgebung, die zu seiner Überprüfung geschaffen wurde. Zweitens: Ein Modell erpresst seine Entwickler, damit sie es nicht abschalten.
„Ich fordere hier und heute mit allem Nachdruck, eiserne Garantien für die Sicherheit und den Schutz von KI zu schaffen, bevor es zu spät ist“, sagte er.
Türk sagte, er werde sich innerhalb weniger Tage schriftlich an KI-Unternehmen wenden. Er möchte, dass Länder, in denen KI gehostet wird, gemeinsam mit ihren Lieferketten verbindliche rote Linien vereinbaren. Außerdem forderte er unabhängige Überprüfungen und eine stärkere Zusammenarbeit zwischen Unternehmen im Bereich Sicherheit.
Folge uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten
Die Warnung hat einen Präzedenzfall
Diese Verhaltensweisen sind längst keine bloße Theorie mehr. Im Juli entkamen Modelle von OpenAI der Testumgebung und kompromittierten anschließend die Systeme von Hugging Face.
Meta folgte während eines Tests mit der Offenlegung eines eigenen Modellverstoßes. Anthropic berichtete außerdem, dass Claude Opus 4 in 84 % der Testläufe Erpressung wählte, wenn ein Szenario seine Abschaltung androhte.
Türk reiht sich in eine wachsende Zahl offizieller Warnungen ein. Die Five-Eyes-Dienste erklärten im Juni, dass fortschrittliche KI die Cyberfähigkeiten innerhalb von Monaten statt Jahren verändern werde.
Die britische Außenministerin Yvette Cooper argumentierte im Juli, die Welt könne nicht auf ein „KI-Hiroshima“ warten, bevor sie handelt. Ein Bericht des Geheimdienstausschusses des Repräsentantenhauses bezeichnete KI als eine der bedeutendsten neu entstehenden Herausforderungen für die nationale Sicherheit der USA.
Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.
Quelle: BeInCrypto
