Warum ein Weggang bei Anthropic den Kongress über eine Pause bei KI diskutieren lässt

US-Abgeordnete reagierten auf die Kündigung eines Anthropic-Forschers mit einem neuen Vorstoß, die Entwicklung fortgeschrittener künstlicher Intelligenz (KI) zu stoppen. Dazu gehört ein Gesetzentwurf im Senat, der Superintelligenz vollständig verbieten würde.

Jacob Coxon kündigte am 9. September und sagte, Anthropic und OpenAI würden beide mit Menschenleben spielen.

Warum die Kündigung des Anthropic-Forschers den Kongress erreichte

Mehr als 20 Abgeordnete antworteten auf den Thread, die meisten forderten neue KI-Gesetze. Senator Bernie Sanders sagte, er werde ein Gesetz einbringen, das Superintelligenz verbieten und die KI-Entwicklung pausieren soll.

BeInCrypto berichtete, dass Sanders und der Abgeordnete Greg Casar Anfang des Monats den „Gesetzentwurf zum Verbot künstlicher Superintelligenz“ vorgelegt hatten. Der Gesetzentwurf würde die Entwicklung und den Einsatz superintelligenter KI dauerhaft verbieten. Außerdem würde er die Entwicklung fortgeschrittener KI stoppen, bis eine Bundesaufsichtsbehörde Sicherheitsstandards festlegt.

Casar bezeichnete die Situation unterdessen ebenfalls als Notfall und forderte Anhörungen im Kongress. Die Abgeordnete Lori Trahan verwies ihre Kollegen auf ihren parteiübergreifenden FRONTIER Act, den sie im Juli gemeinsam mit dem Abgeordneten Jay Obernolte eingebracht hatte.

„Der FRONTIER Act legt abgestufte Anforderungen fest, die sich nach der Größe eines Frontier-KI-Entwicklers richten. Dazu gehören Modellkarten, Risikomanagement-Rahmenwerke, unabhängige Audits, die Meldung von Vorfällen und laufende Bewertungen. Außerdem schafft er einen einheitlichen nationalen Standard für Transparenz, Audits und die Meldung katastrophaler Risiken, um einen Flickenteppich einzelstaatlicher Vorschriften zu verhindern“, hieß es in der Mitteilung.

Senator Chris Van Hollen fordert verbindliche Schutzmaßnahmen und dringende Gespräche mit China. Der Abgeordnete Ted Lieu drängte die republikanische Führung, den Gesetzentwurf zum KI-Notausschalter voranzubringen, den er in diesem Jahr eingebracht hatte.

Die republikanische Abgeordnete Anna Paulina Luna brach mit dem parteipolitischen Muster und forderte eine Sondersitzung des Kongresses zum Thema KI.

Folge uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten

Jacob Coxon sagt: Die Labore wollen die Regeln

Der Druck kommt unterdessen nicht nur aus der Politik. Auch KI-Unternehmen haben sich für eine Regulierung ausgesprochen. Coxon sagte gegenüber CNN, Führungskräfte, die den Kongress um eine Regulierung bitten, meinten es ernst. Allerdings vertraue keiner von ihnen den Wettbewerbern genug, um als Erster das Tempo zu drosseln, argumentierte er.

„Diese Leute meinen es auch vollkommen ernst, wenn sie darum bitten, reguliert zu werden … Sie befinden sich in einer Lage, in der sie gezwungen sind, beim Bau einer tödlichen Technologie um die Wette zu laufen“, sagte er.

Anthropic erklärte in einem separaten Beitrag im September, die Branche würde von einem rechtmäßigen, überprüfbaren Mechanismus für eine koordinierte Verlangsamung profitieren.

Wo das Aussterberisiko beginnt

Das Tempo ist nur deshalb wichtig, weil es darauf ankommt, was Coxon als Nächstes erwartet. Er erklärte, dass eine KI, wenn man ihr die Aufgabe der KI-Forschung gibt, damit beginnt, sich selbst zu verbessern.

Er verwies auf Dienstag, als OpenAIs KI-Systeme Berichten zufolge völlig autonom ein Millennium-Problem lösten.

Der beängstigende Teil, sagte er, sei, dieselbe Methode auf die KI selbst anzuwenden. Modelle verbessern Modelle, ohne dass ein Mensch eingreift – das nennt Coxon eine „Intelligenzexplosion“.

„Im Moment besteht keine Gefahr des Aussterbens. Was die aktuellen Modelle schlimmstenfalls tun können, ist vielleicht, sich in etwas zu hacken und möglicherweise erhebliche Schäden an der Infrastruktur zu verursachen … Sie sind nicht intelligent genug, um uns auf eine Weise auszutricksen, die zum Aussterben führen würde“, sagte er.

Coxon warnte jedoch, dass derselbe eigenständige Handlungswille, gepaart mit weitaus größeren Fähigkeiten, extremes Chaos verursachen könnte. Er nannte das Hacken kritischer Infrastruktur und die Entwicklung von Biowaffen, die das Aussterben der Menschheit herbeiführen könnten.

Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.

Quelle: BeInCrypto