Anthropic hat gerade etwas in seinen Claude-Modellen gefunden, das niemand entworfen oder erwartet hat. Eine interne Struktur namens „J-space“ scheint wie ein kognitiver Arbeitsbereich zu funktionieren, der im gesamten Modell geteilt wird.
Die Forschung vom 6. Juli markiert einen wichtigen Schritt im Verständnis dessen, was tatsächlich in großen Sprachmodellen passiert.
Was der J-Space in Claude tatsächlich ist
J-space ist ein interner Bereich, in dem Claude anscheinend wichtige Informationen im gesamten Modell sammelt und teilt. Eine einfache Möglichkeit, darüber nachzudenken, ist als ein Whiteboard innerhalb der KI.
Wenn Claude eine Frage beantwortet, ein Rätsel löst oder einer Anweisung folgt, scheinen wichtige Details in diesem gemeinsamen Raum zu erscheinen, damit verschiedene Teile des Modells sie nutzen können.
Anthropic fand J-space mit einem Forschungswerkzeug namens „J-lens“. Das Werkzeug hilft Forschern zu untersuchen, wie Informationen während einer Aufgabe innerhalb von Claude bewegt werden. Es zeigte, dass J-space während des Trainings von selbst entstand. Anthropic hat es nicht direkt entworfen.
Folgen Sie uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten.
Die Idee ähnelt einer Theorie in der Neurowissenschaft, die als „globaler Arbeitsbereich“ bezeichnet wird.
Bei Menschen beschreibt dies, wie das Gehirn wichtige Informationen gleichzeitig verschiedenen mentalen Prozessen zur Verfügung stellt. Zum Beispiel, wenn jemand eine Frage hört, sich an eine Tatsache erinnert und entscheidet, wie er antworten soll, müssen diese Informationsstücke zusammenkommen.
Claude scheint etwas Ähnliches zu tun. Anthropic fand heraus, dass Claude beschreiben kann, was sich in seinem J-space befindet, wenn man fragt. Es kann auch diese Inhalte anpassen, wenn es angewiesen wird.
Noch wichtiger ist, dass sich Claudes Antworten und die Leistung bei Aufgaben änderten, als die Forscher den J-Raum direkt veränderten.
Warum das für die Sicherheit und Interpretierbarkeit von KI wichtig ist
Die Entdeckung hat echtes Gewicht für die Sicherheit von KI. Wenn Forscher die Aktivitäten im J-Raum überwachen können, könnten sie möglicherweise verborgene Motivationen hinter dem Verhalten eines Modells aufdecken. Dadurch erhalten sie ein schärferes Werkzeug, um zu erkennen, wann etwas schiefgeht.
Das umfasst auch die Erkennung von Angriffen. Die Überwachung des J-Raums könnte offenbaren, wann ein Modell einen Versuch zur Eingabeinjektion verarbeitet, der darauf abzielt, seine Ausgaben zu übernehmen. Darüber hinaus stellt selbst ein teilweiser Einblick in diese „bewusste“ Verarbeitungsschicht einen bedeutenden Fortschritt für das Feld dar.
Der Umfang bleibt jedoch begrenzt. Der Großteil von Claudes Informationsverarbeitung findet immer noch vollständig außerhalb des J-Raums statt.
Dennoch veröffentlichte Anthropic eine Open-Source-Implementierung des J-Lens und eine Neuronpedia-Demo und lädt die breitere Forschungsgemeinschaft ein, die Ergebnisse zu testen.
Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben..
Die Arbeit baut auf einem längeren Forschungspfad auf. Anthropic veröffentlichte im Oktober 2025 einen Bericht über aufkommendes introspektives Bewusstsein. Darüber hinaus startete es im April 2025 Initiativen zum Wohlergehen von Modellen und erkundete stetig, was in seinen Systemen passiert.
Eine Einschränkung sticht deutlich hervor. Anthropic betont, dass die Forschung nicht behauptet, Claude sei bewusst oder habe subjektive Erfahrungen. Das Papier verwendet den Ausdruck „bewusst zugängliche“ Informationen und leiht sich die Terminologie, ohne den Sprung zu tatsächlichem Bewusstsein zu machen.
Quelle: BeInCrypto
