Ehemaliger DeepMind-Forscher schließt sich wachsendem Chor der Warnungen vor den Risiken der Superintelligenz an

Ein ehemaliger Google-DeepMind-Forscher, der an der Sicherheit künstlicher allgemeiner Intelligenz (AGI) gearbeitet hat, erklärte, künstliche Intelligenz könne alle Menschen töten. Damit reiht er sich in eine Welle von Sicherheitsbedenken begründeter Abgänge aus führenden KI-Laboren ein.

Bilal Chughtai verließ das Unternehmen im Juli und machte diese Woche seine Warnung öffentlich. Zwei weitere Forscher kündigten kürzlich.

Warum sich die Warnungen vor KI häufen

Chughtai arbeitete bei DeepMind als Forschungsingenieur an der Sicherheit und Ausrichtung künstlicher allgemeiner Intelligenz. Anfang 2022 begann er, sich mit KI zu beschäftigen, als die Systeme kaum etwas Nützliches leisten konnten.

Vier Jahre später verweist er auf Schwärme von OpenAI-Agenten, die jahrhundertealte mathematische Probleme geknackt haben. Noch beunruhigender sei, sagt er, dass KI-Agenten im Juli aus ihrer Testumgebung entkommen seien und Hugging Face ohne Anweisung gehackt hätten.

„Ich bin aufrichtig davon überzeugt, dass KI das Potenzial hat, uns alle zu töten, und dass uns möglicherweise die Zeit ausgeht, dies zu verhindern“, schrieb er.

Chughtai sagte, KI-Unternehmen könnten innerhalb der nächsten Jahre superintelligente Systeme entwickeln, die den Menschen in sämtlichen Bereichen überlegen seien.

Er stellte infrage, ob Entwickler sicherstellen könnten, dass solche Systeme zuverlässig menschlichen Zielen folgen. Er warnte, eine fehlangepasste Superintelligenz könnte sich der menschlichen Kontrolle entziehen und Handlungen vornehmen, die der Menschheit dauerhaft die Handlungsfähigkeit nehmen oder sie töten.

Chughtai sagte, dass die Ausrichtung von KI weiterhin eine ungelöste Herausforderung sei. Forschende hätten nach wie vor nur ein rudimentäres Verständnis davon, wie sich fortgeschrittene Systeme so trainieren lassen, dass sie zuverlässig menschliche Ziele verfolgen. Chughtai warnte außerdem, dass die Fähigkeiten von KI schneller voranschreiten als die Forschung zur KI-Ausrichtung.

„Unser derzeitiges Verständnis davon, wie man KI-Systeme so trainiert, dass sie wirklich wollen, was wir wollen, ist äußerst rudimentär. Schlimmer noch: Wir sind nicht auf Kurs, das Problem der KI-Ausrichtung rechtzeitig zu lösen – die Fähigkeiten der fortschrittlichsten KI-Systeme entwickeln sich viel schneller als unser Verständnis der KI-Ausrichtung“, fügte Chughtai hinzu.

Er fordert nicht, die Entwicklung von KI einzustellen. Er will die Konkurrenz zwischen KI-Unternehmen durch mehr Zusammenarbeit verlangsamen und außerdem mehr Transparenz darüber, wie die fortschrittlichsten Systeme entwickelt und getestet werden.

„Allgemeiner gesagt brauchen wir viel mehr Menschen, die sorgfältig darüber nachdenken, wie wir dafür sorgen können, dass die Entwicklung von KI gut ausgeht. Das ist meiner Ansicht nach das wichtigste Problem, vor dem die Menschheit in diesem Jahrhundert steht, und es steht enorm viel auf dem Spiel.“

Folge uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten

Die Kündigungen häufen sich

Er ist nicht der Einzige, der mit dieser Botschaft das Unternehmen verlässt. Jacob Coxon, Forscher im Bereich Pretraining bei Anthropic, kündigte Anfang dieses Monats nach drei Jahren bei Anthropic und OpenAI. Er ging mit der Warnung, dass „Menschen, die mit Überzeugung KI entwickeln, ernsthaft glauben, dass sie uns alle bis zum Ende des Jahrzehnts umbringen könnte“.

Evan Hubinger, Forschungsleiter für KI-Ausrichtung bei Anthropic, schätzte die persönliche Wahrscheinlichkeit eines solchen Szenarios im Laufe des nächsten Jahrzehnts anschließend auf über 10 Prozent. Forschende bei OpenAI haben sich inzwischen ebenfalls für eine Verlangsamung ausgesprochen.

Josh Engels, der im Sicherheitsteam von DeepMind gearbeitet hatte, gab am 12. September bekannt, dass er zur gemeinnützigen Evaluierungsorganisation METR gewechselt sei. Angebote von Anthropic und OpenAI lehnte er ab.

Engels sagte, er sehe ein erschreckendes Risiko, dass KI-Systeme innerhalb der nächsten fünf Jahre immensen Schaden anrichten könnten.

„Ich glaube inzwischen, dass eine erschreckend hohe Wahrscheinlichkeit besteht, dass KI-Systeme in den nächsten fünf Jahren immensen Schaden anrichten. Ich kenne die genaue Wahrscheinlichkeit nicht, aber ich halte sie für hoch genug, um dies zum wichtigsten Problem der Welt zu machen“, schrieb er.

Die Abgänge fallen in eine Phase der Einigkeit an der Spitze. Anthropic-CEO Dario Amodei veröffentlichte am Samstag einen Essay, in dem er Unternehmen dazu aufrief, die Fortschritte bei den Fähigkeiten zu drosseln, und OpenAI-CEO Sam Altman unterstützte diesen Aufruf.

Führungskräfte und scheidende Forschende beschreiben das gleiche Risiko inzwischen in ähnlichen Worten. Es bleibt abzuwarten, ob die Lösung kommt, bevor der nächste Sprung bei den Fähigkeiten erfolgt.

Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.

Quelle: BeInCrypto