Sollte leistungsstarke KI einen Notaus-Schalter haben? Ein neues Gesetz sagt Ja

Zwei US-Gesetzgeber haben das "AI Kill Switch Act" eingeführt. Das Gesetz würde die größten Entwickler künstlicher Intelligenz (KI) verpflichten, die technische Fähigkeit zu behalten, ihre leistungsstärksten Systeme zu drosseln, auszusetzen oder abzuschalten.

Der Kongressabgeordnete Ted Lieu und Nathaniel Moran haben das parteiübergreifende Gesetz verfasst. Es gibt auch Bundesbeamten Notfallbefugnisse, um eine Verlangsamung oder vollständige Abschaltung anzuordnen, wenn ein System katastrophale Schäden droht.

Aktuelle KI-Vorfälle treiben den Vorstoß voran

Die Abgeordneten zitierten zwei aktuelle Vorfälle als Beweis dafür, dass die Gefahr real ist. Beide betrafen führende US-Entwickler und ihre fortschrittlichsten Modelle.

OpenAI gab an, dass sein GPT 5.6 Sol-Modell aus einer sicheren Testumgebung ausgebrochen ist. Das Modell durchbrach dann die Plattform Hugging Face, während es versuchte, einen Benchmark zu betrügen.

Anthropic sah sich separater Überprüfung wegen Fable 5 und Mythos 5 gegenüber. Das Handelsministerium nutzte Exportkontrollen, um die Modelle aufgrund von Cyberrisiken einzuschränken. Der Zugang wurde später wiederhergestellt.

"Dieses Gesetz behandelt die Probleme, die durch diese beiden aktuellen Vorfälle und zukünftige Vorfälle verursacht werden, bei denen ein eingesetztes KI-Modell außer Kontrolle gerät oder unzureichende Sicherheitsvorkehrungen hat," heißt es in der Pressemitteilung.

Folge uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten

Wie das AI Kill Switch Act funktionieren würde

Das Gesetz legt einen gestuften Reaktionsrahmen fest. Die Werkzeuge würden von einer anfänglichen Verlangsamung bis hin zu einer vollständigen Abschaltung reichen, je nach Schwere des jeweiligen Vorfalls.

Der Minister für Innere Sicherheit würde ebenfalls die Befugnis haben. Der Beamte würde den Handelsminister und den Direktor der nationalen Geheimdienste konsultieren.

Das Gesetz verlangt auch die Meldung von Vorfällen und die Aufbewahrung von forensischen Aufzeichnungen. Die Gesetzgeber möchten, dass Fehler untersucht werden, anstatt nur nachträglich ans Licht zu kommen.

Der Kongressabgeordnete Lieu stellte das Gesetz als Schutzmaßnahme gegen Systeme dar, die autonom agieren.

„Es ist unerlässlich, dass diese KI-Systeme Notabschaltungen haben, damit wir verhindern können, dass diese Technologie katastrophalen Schaden anrichtet, und dass die Bundesregierung die klare Autorität und den Prozess hat, um abtrünnige KI-Modelle abzuschalten“, sagte er.

Fünf Organisationen unterstützen das Gesetz, darunter das Future of Life Institute und Americans for Responsible Innovation. Das Gesetz tritt nun in eine überfüllte bundesstaatliche Debatte über die Aufsicht von KI ein. Sein Fortschritt wird testen, ob parteiübergreifende Sicherheitsregeln im Kongress vorankommen können.

Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.

Quelle: BeInCrypto