Vitalik Buterins Vorstoß für lokale KI: Kann dein Laptop ChatGPT ersetzen?

Ethereum-Mitgründer Vitalik Buterin sagt, dass lokale künstliche Intelligenz (KI) kurz davorsteht, einen großen Teil der alltäglichen Aufgaben zu übernehmen. Er ließ Alibaba Qwen3.8-Flash-Next auf seinem eigenen Laptop laufen und veröffentlichte die Geschwindigkeitsergebnisse.

Anders als ChatGPT kontaktiert dieses Setup niemals einen Cloud-Server. Das Modell befindet sich auf dem Gerät, und das Gerät beantwortet die Anfrage selbst.

Vitalik Buterins Test mit lokaler KI zeigt alltagstaugliche Geschwindigkeit

Sein Laptop verwendet AMDs Strix-Halo-Chip. Bei den meisten Computern wird die Arbeit zwischen einem Prozessor und einer separaten Grafikkarte aufgeteilt, und beide verfügen über einen eigenen Speicher. Strix Halo vereint beides auf einem einzigen Stück Silizium und lässt beide Komponenten stattdessen denselben Speicher nutzen.

Dieses Design ist wichtig, weil ein KI-Modell in den Speicher passen muss, bevor es überhaupt ausgeführt werden kann. Eine typische Grafikkarte bietet 8 bis 24 Gigabyte – viel zu wenig für ein Modell dieser Größe. Strix-Halo-Geräte sind mit bis zu 128 Gigabyte ausgestattet, die beide Hälften des Chips nutzen können. Ein einzelner Laptop kann daher ein Modell aufnehmen, für das bis vor Kurzem Server-Hardware erforderlich war.

Die von ihm veröffentlichten Geschwindigkeiten reichen für alltägliche Aufgaben aus. Kurze Eingaben wurden in einem angenehmen Lesetempo beantwortet. Bei Eingaben mit Zehntausenden von Wörtern verlangsamte sich die Ausgabe, sodass sehr lange Dokumente weiterhin die Schwachstelle sind.

Alibaba veröffentlichte die offenen Modellgewichte am 26. August. Das Team gibt an, dass das Modell über 125 Milliarden Parameter verfügt, aber jeweils nur sechs Milliarden davon aktiviert, wodurch der Speicherbedarf überschaubar bleibt.

Buterin nannte es Qwen3.8-Flash, Alibaba bietet die herunterladbare Version jedoch als Qwen3.8-Flash-Next an. Sein größeres Schwestermodell, Qwen3.8-Max, erzielte im August starke Benchmark-Ergebnisse.

Warum Datenschutz die Rechnung verändert

Buterin sieht neben der reinen Geschwindigkeit einen weiteren Vorteil. Ein lokales Modell antwortet direkt auf dem Gerät, sodass kein Anbieter die Anfrage erhält.

Für anspruchsvollere Aufgaben schlägt er eine Aufteilung vor. Das lokale Modell würde erledigen, was es kann, und anschließend sensible Details aus allem entfernen, was es an ein größeres, gehostetes System weitergibt.

„das lokale Modell nutzen, um Anfragen an leistungsstarke Modelle zu koordinieren, damit deine Anfragen keine persönlichen Informationen preisgeben“

In der Praxis würde das lokale Modell Namen, Wallet-Adressen oder privaten Code aus einer Eingabeaufforderung entfernen und nur die verbleibende Frage weitergeben. Eine solche Prüfung würde die Datenmenge verringern, die das Gerät verlässt. Sie würde jedoch nicht garantieren, dass nichts Sensibles durchrutscht.

Diese Argumentation passt zu seiner bisherigen Haltung. Während der Debatte um die Chatkontrolle in der EU hat er vor Überwachung gewarnt, und Kryptonutzer haben aus ähnlichen Gründen strengere Beschränkungen für Agenten gefordert.

Eine im Mai eingereichte Sammelklage wirft OpenAI vor, ChatGPT-Anfragen von Nutzern an Meta und Google weitergegeben zu haben.

Die führenden Modelle liegen weiterhin in der Hand von Cloud-Anbietern. Doch jede Verbesserung der lokalen Leistung verlagert mehr Routineaufgaben von deren Servern weg, und günstige Hardware mit gemeinsamem Speicher verbreitet sich immer weiter.

Offen bleibt, wie viel Leistungsfähigkeit Menschen für mehr Kontrolle einzutauschen bereit sind.

Quelle: BeInCrypto