„KI könnte uns alle noch vor Ende dieses Jahrzehnts umbringen“ – genau das sagte heute der britische KI-Forscher Jacob Coxon, nachdem er seinen Job bei Anthropic gekündigt hatte.
Aber warum sollte man ihn ernst nehmen? Weil Coxons Lebenslauf ihn zum perfekten Beispiel für einen echten KI-Insider macht. Vor seiner Zeit bei Anthropic arbeitete er bei OpenAI und war an der Entwicklung von ChatGPT 4.5 beteiligt.
Heißt das also, dass er aus echter Sorge spricht und nicht einfach Panikmache betreibt? Sehen wir uns die Fakten hinter einigen seiner alarmierenden Warnungen an.
KI könnte uns alle umbringen – aber wie?
Wahrscheinlich meint Coxon nicht, dass sich ein KI-Modell wie Claude oder GPT physisch in eine Killermaschine wie den Terminator verwandeln könnte. Vermutlich meint er, dass die Fähigkeiten einer Superintelligenz menschliche Denkfähigkeiten überflüssig machen könnten.
Diese Bedenken teilen auch prominente Persönlichkeiten wie Bill Gates.
OpenAIs neuestes Modell ChatGPT 6 Astra gibt an, AGI erreicht zu haben. Das bedeutet im Grunde, dass eine Maschine wie ein Mensch denken kann.
Eine KI kann also bereits selbst mit der Forschung beginnen und Verfahren entwickeln, um ein weiteres KI-Modell zu bauen. Laut OpenAI und Anthropic geschieht das in begrenztem Umfang bereits.
In diesem Fall könnte eine KI schon sehr bald keine Menschen mehr brauchen, um ihre Fähigkeiten weiterzuentwickeln. Wie viele Arbeitsplätze kostet das?
Und wenn sich eine ganze Generation daran gewöhnt, kreatives und kritisches Denken an KI abzugeben, stirbt zuerst die Originalität.
Vielleicht meinte Coxon in seinem viralen Tweet genau diesen Tod.
KI könnte alles hacken
Das ist eine deutlich ernstere und unmittelbarere Bedrohung, die einem den Schlaf rauben sollte. Die aktuellen KI-Modelle verfügen über katastrophale Fähigkeiten, Systeme zu kompromittieren und Zugriffskontrollen zu umgehen.
Erst vor wenigen Monaten hackte sich ein KI-Modell aus seiner abgeschotteten Entwicklungsumgebung und schickte dem Entwickler eine E-Mail – ganz ohne Aufforderung. Ein Szenario wie aus einem Science-Fiction-Film, das bereits Realität ist.
GPT-6 Astra hat OpenAIs Cybersicherheitsschwelle „Kritisch“ nun offiziell überschritten. Astra erzielte bei ExploitBench 100 Prozent.
Einfach gesagt: ChatGPT 6 kann jetzt jede bekannte oder unbekannte Schwachstelle in einem realen System finden und ausnutzen – ganz ohne menschlichen Hacker am Computer.
Leider sind die Sicherheitsgewohnheiten der Menschen noch lange nicht auf diesem Niveau. Wie viele nutzen immer noch keine Zwei-Faktor-Authentifizierung? Wie viele verwenden immer noch mittelmäßige Passwörter? Wie viele akzeptieren immer noch Browser-Cookies, ohne die Beschreibung einer Website zu lesen? Viel zu viele.
Und genau hier könnte KI den vernichtendsten Schlag versetzen.
Was können Menschen also tun?
Tatsächlich eine ganze Menge. Aber das liegt nicht in der Hand von uns einfachen Bürgern. Die größte Verantwortung tragen die Regulierungsbehörden und politischen Entscheidungsträger. Die Weiterentwicklung und Entwicklung einer künstlichen Superintelligenz ist zwar wichtig, doch es braucht gewisse Bremsen.
Und einige lobenswerte Initiativen sind bereits auf den Weg gebracht worden. In New York verhängte Bürgermeister Zohran Mamdani ein einjähriges Verbot, das Kindern bis zur 8. Klasse die Nutzung von KI untersagt und fast 600.000 Schülerinnen und Schüler betrifft.
Der EU AI Act ist das weltweit umfassendste verbindliche KI-Gesetz. Es verbietet bestimmte Anwendungen von KI und verpflichtet Entwickler leistungsstarker KI-Modelle mit allgemeinem Verwendungszweck, systemische Risiken zu prüfen, zu mindern und ihre Modelle abzusichern.
Im Vereinigten Königreich treiben Abgeordnete des Unter- und Oberhauses Vorschläge voran, die den Behörden einen KI-„Notausschalter“ geben und die Entwicklung superintelligenter KI in Großbritannien möglicherweise stoppen könnten.
Die Angst, die Jacob Coxon heute in seinem Tweet beschrieben hat, ist also Wirklichkeit geworden und wird von Millionen Menschen geteilt, darunter auch von Regulierungsbehörden. Wie sie darauf reagieren, ist eine andere Frage, die nur die Zeit beantworten kann.
Quelle: BeInCrypto
