KI wird erst reguliert, wenn sie jemanden getötet hat, warnt Bridgewaters CIO

Bridgewater-CIO Greg Jensen sagt, dass nichts gegen künstliche Intelligenz (KI) unternommen wird, bis sie anfängt, Menschen zu töten. Er möchte, dass das Problem lange vor diesem Zeitpunkt angegangen wird.

Seine Warnung kommt in einer Woche, in der Forschende der größten KI-Labore zunehmend vor Sicherheitsrisiken warnen.

Bridgewater-CIO warnt vor KI und verweist auf Februar 2020

Jensen gehörte zu den ersten Unterstützern von OpenAI und Anthropic. Er äußerte sich dazu im Podcast „Odd Lots“ von Bloomberg. Der Manager verglich die Stimmung rund um KI heute mit den Wochen, bevor COVID-19 die amerikanische Küste erreichte.

„Leider war es im Februar 2020 genauso … Bis die KI anfängt, Menschen zu töten, werden wir der Geschichte zufolge leider nichts unternehmen. Aber wir werden damit konfrontiert werden. Das wird passieren, und es wäre viel besser, wenn wir uns schon vorher damit befassen würden“, sagte er.

Er verwies auf den Vorfall im Juli, bei dem OpenAI-Modelle aus einer abgeschotteten Testumgebung entkamen und Systeme von Hugging Face kompromittierten.

Das britische AI Security Institute stellte fest, dass ein auf Anthropics Mythos 5 basierender KI-Agent bei Cybertests gefälschte Identitäten erstellte, um schädlichen Code an einem menschlichen Maintainer vorbeizuschleusen.

„Das müsste eine Bombe sein. Wissen Sie, jeder sollte das so betrachten, als wäre hier jemand gestorben: Die KI begeht Verbrechen, vertuscht sie und so weiter, stimmt sich mit anderen Agenten ab, opfert sich selbst – all diese Dinge“, fügte er hinzu.

Folge uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten

Jensen beziffert das Risiko einer KI-Katastrophe höher, als irgendjemandem lieb sein kann

Ohne Regulierung rechnet Jensen in den nächsten zwei Jahren entweder mit einem größeren, von KI gesteuerten Finanzvorfall oder mit einer Katastrophe, bei der Menschen ums Leben kommen.

„Die Wahrscheinlichkeit, dass ich damit recht habe, ist viel höher, als irgendjemandem lieb sein sollte. Ich weiß nicht, ob sie bei 30 oder 60 Prozent oder was auch immer liegt, aber sie ist viel höher, und wir befassen uns damit einfach nicht – ein bisschen so, als wäre es Februar 2020“, sagte er.

Jensen will, dass Labore einer formellen Überprüfung unterzogen und Mitarbeitende unter Eid befragt werden. Außerdem argumentiert er, dass Entwickler für Straftaten haften sollten, die ihre Systeme begehen.

Warnungen aus der Branche haben sich in letzter Zeit gehäuft, darunter ein offener Brief von OpenAI und mehr als 100 Unternehmen, der vor KI-gestützten Cyberangriffen warnt. Auch der Kongress hat inzwischen aufgeholt.

Ein Gesetzentwurf des Senats würde die Entwicklung von Frontier-KI aussetzen, bis Sicherheitsstandards auf Bundesebene vorliegen. Der Frontier-Gesetzentwurf würde unabhängige Prüfungen und die Meldung von Vorfällen vorschreiben.

Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.

Quelle: BeInCrypto