NVIDIA hat kürzlich Nemotron 3 Ultra veröffentlicht – das größte offene KI-Modell in der Nemotron 3 Reihe. Die Veröffentlichung fand am 4. Juni 2026 statt: Die Gewichte des Modells, die Trainingsdaten und die Trainingsmethoden selbst wurden unter einer freien Lizenz öffentlich zugänglich gemacht. Das Modell ist für langlaufende autonome Agenten und komplexes Denken konzipiert.
Im Gegensatz zu geschlossenen Flaggschiffen wie ChatGPT oder Claude kann Nemotron 3 Ultra heruntergeladen, auf eigenen Daten feinjustiert und auf eigener Infrastruktur betrieben werden. Die Wette hier liegt nicht auf maximaler Intelligenz, sondern auf Offenheit, Effizienz und Kontrolle über das Modell.
Möchten Sie mehr exklusive Nachrichten und Analysen? Abonnieren Sie unserTelegram-Kanal, diskutieren Sie die Nachrichten und teilen Sie Ihre Meinungen zu den neuesten Marktereignissen im Chat!
Was die Architektur des Modells besonders macht
Nemotron 3 Ultra ist nicht nur ein «skaliertes Transformer». Im Kern liegt eine hybride Architektur, die aus drei verschiedenen Ansätzen besteht: Mamba-2-Schichten, Aufmerksamkeits-Schichten (Attention) und einer latenten Mischung von Experten (Latent MoE) – einem Mechanismus, der jede Anfrage nur an die relevanten «Spezialisten» innerhalb des Modells weiterleitet.
Mamba-2-Schichten verarbeiten lange Texte schnell und wirtschaftlich: Ihre Kosten steigen linear mit der Länge, anstatt wie bei dem üblichen Aufmerksamkeitsmechanismus explosionsartig zu wachsen. Aufmerksamkeits-Schichten hingegen halten große Textmengen genau im Gedächtnis. Und Latent MoE komprimiert die Daten, bevor sie an die Experten weitergegeben werden, sodass jeder von ihnen eng und präzise arbeitet, ohne zusätzliche Berechnungen zu erfordern.
Insgesamt hat das Modell etwa 550 Milliarden Parameter, aber nur ungefähr 55 Milliarden werden verwendet, um jedes Token zu verarbeiten. Deshalb denkt es wie ein riesiges System, während es sich in Bezug auf die Kosten wie ein viel kompakteres verhält. Zusammen mit einem Kontextfenster von 1 Million Tokens und einer Geschwindigkeit von über 300 Tokens pro Sekunde liefert dies eine fünf- bis sechsmal höhere Durchsatzrate und etwa 30 % niedrigere Aufgabenkosten.
Quelle: BeInCrypto
