Anthropic zufolge unterstützte KI möglicherweise die Forschung an biologischen Waffen

Ein Förderantrag wurde bei Claude eingereicht, dessen Sicherheitsfilter ihn erkannte und ablehnte. Tage später war derselbe Betreiber zurück, und die abgelehnten Prompts flossen Berichten zufolge stattdessen an ein konkurrierendes KI-Modell.

Anthropic veröffentlichte diese Geschichte über sich selbst und machte damit einen Fall bekannt, in dem die eigenen Modelle eines KI-Unternehmens mit möglicher Arbeit an biologischen Waffen in Berührung kamen.

Der Förderantrag, der abgelehnt wurde

Der Antrag wollte Geld für die Erforschung des Chikungunya-Virus einwerben, das von Mücken übertragen wird, monatelange Schmerzen verursacht und nicht heilbar ist. Ziel des Vorhabens war, das Virus besser verbreitbar zu machen und ihm zu helfen, dem Immunsystem zu entgehen. Der Antrag stammte von zivilen Wissenschaftlern. Die Arbeiten sollten an einem militärischen Institut stattfinden.

Jede Anfrage wurde blockiert, doch es fand sich ein Umweg. Der Dienst, den diese Forschenden nutzten, richtete eine Ausweichlösung mit dem Modell eines Konkurrenten ein. Claude half beim Schreiben des dafür nötigen Codes. Die Aufgabe wurde Claude als Lösung für zu häufige Ablehnungen dargestellt.

Fünf Fälle, keine nachgewiesene Absicht

Der Bericht umfasst 154 Seiten und behandelt fünf biologische Fälle. Anthropic sperrte die Konten und nannte die Labore nicht, ging dann aber nicht so weit, wie viele erwartet hatten, und erhob keinen entsprechenden Vorwurf.

„Wir behaupten nicht, dass sie Schaden anrichten wollten, und ihre Identifizierung oder die ihrer Labore könnte sie in Gefahr bringen“, erklärte das Team in dem Bericht.

Bemerkenswert ist jedoch, dass die Filter manchmal funktionierten. Eine Forscherin oder ein Forscher zu Vogelgrippe wechselte daraufhin zu schwächeren Modellen; Anthropic zufolge beschränkte sich die dabei geleistete Hilfe größtenteils auf Verwaltungsaufgaben.

Fälle biologischer Waffen bei Anthropic in Zahlen

Folgen Sie uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten

Der Teil, der den Menschen Sorgen bereiten sollte

Die meisten dieser 35 Projekte waren gewöhnliche zivile Forschung. Das ist das Problem. Dasselbe Wissen kann einen Impfstoff oder eine Waffe hervorbringen, und ein Filter kann keine Gedanken lesen.

„Ein Klassifikator kann nicht gleichzeitig Nutzen ermöglichen und Schaden verhindern“, sagte Anthropic.

Seine Grenzen wurden schon früher auf die Probe gestellt. Im April gelangte eine Discord-Gruppe bereits am ersten Tag an das eingeschränkte Modell.

Vor dem Hintergrund dieser zunehmenden Sorgen kommt in Washington Bewegung auf: Die Abgeordneten Ted Lieu und Nathaniel Moran brachten im Juli den KI-Notausschalter-Gesetzentwurf ein. Er würde Entwickler dazu verpflichten, die Möglichkeit zu behalten, ihre Systeme abzuschalten.

Derselbe Bericht verbot auch Kunden, die Claude zur Überwachung von Dissidenten eingesetzt hatten.

Quelle: BeInCrypto