Nemotron 3.5 Super VL: Nvidias offenes Agentenmodell
Nvidia stellt ein offenes Multimodal-Modell mit 120 Milliarden Parametern bereit – die versprochene Dauerleistung haengt jedoch an Nvidias eigener Hardware.
Kurz gesagt
Nvidia veroeffentlicht mit Nemotron 3.5 Super VL ein offenes multimodales Modell mit 120 Milliarden Parametern und 12 Milliarden pro Token aktiven Parametern fuer den Dauerbetrieb von Unternehmens-Agenten, dessen Tempovorteile laut Herstellerangaben aber vor allem auf Nvidias GPUs und Racks entstehen.
Auf einen Blick
- Super VL: 120 Milliarden Parameter, davon 12 Milliarden pro Token aktiv, verteilt auch als 4-Bit-Variante im NVFP4-Format.
- Vortraining mit ueber 25 Billionen Tokens, Nachtraining mit rund 4 Millionen Beispielen in etwa 100 RL-Umgebungen.
- Bolt 74B-A9B laeuft mit 2-Bit-Quantisierung in 24 GB VRAM; eine 4-GB-Fassung E4B soll noch im Oktober folgen.
- Artificial Analysis Intelligence Index v4.3.2: Super VL 26 Punkte, Bolt 21 Punkte, Claude Opus 5.5 fuehrt mit 58.
- Mit Nvidia Dynamo auf 16 B200-GPUs: von rund 60 auf ueber 500 parallele Nutzer, Antwortbeginn von 2,75 s auf 0,4 s.
Nvidia hat mit Nemotron 3.5 Super VL ein offenes multimodales Modell vorgestellt, das Unternehmens-Agenten im Dauerbetrieb tragen soll: 120 Milliarden Parameter, von denen pro Token 12 Milliarden aktiv sind. Die Tempoversprechen rund um das Modell sind allerdings eng an Nvidias eigene Beschleuniger gebunden.
Was in Super VL steckt
Das Modell ist als Mixture-of-Experts aufgebaut und wird neben der BF16-Fassung auch 4-Bit-quantisiert im NVFP4-Format verteilt. Nvidia nennt fuer das Vortraining ueber 25 Billionen Tokens, fuer das Nachtraining rund 4 Millionen Beispiele aus etwa 100 Reinforcement-Learning-Umgebungen. Auf der Bildseite zielt Super VL auf Diagramme, OCR, Tabellen, mehrseitige Dokumente und Video. Die Gewichte liegen auf Hugging Face, unter anderem als NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16.
Benchmarks: schnell, aber nicht an der Spitze
Im Artificial Analysis Intelligence Index v4.3.2 kommt Super VL auf 26 Punkte. Spitzenreiter dort ist Claude Opus 5.5 mit 58 Punkten, die kleinere Bolt-Variante erreicht 21 Punkte. Beim Diagrammverstaendnis CharXiv meldet Nvidia 80,8 Prozent, mit zusaetzlicher Python-Ausfuehrung 84 Prozent – gegenueber 63 Prozent fuer das aeltere Nemotron 3 Nano Omni.
Fuer SWE-bench Pro gibt Nvidia etwa 51 Prozent Trefferquote an sowie rund 10 Stunden fuer 10.000 Aufgaben auf vier B200-GPUs; vergleichbare Modelle brauchen nach diesen Angaben 50 bis 56 Stunden. Bei 100.000 Eingabe-Tokens nennt das Unternehmen rund 630 Tokens pro Sekunde und bis zu fuenfmal mehr Durchsatz als offene Modelle derselben Klasse. Fuer indische Sprachen weist Nvidia im Indic FrontierMath 58 Punkte aus, gegenueber 27 Punkten fuer Sarvam-105B und 22 Punkten fuer Gemma-4-31B-it.
Zwei kleine Modelle fuer lokale Rechner
Nemotron 3.5 Bolt 74B-A9B hat 74 Milliarden Parameter, arbeitet mit 9 Milliarden aktiven pro Schritt und passt dank 2-Bit-Quantisierung in 24 GB VRAM. Als Ziel nennt Nvidia DGX Spark, RTX Spark, GeForce RTX, DGX Station und RTX-PRO-Arbeitsplaetze, als Laufzeiten llama.cpp, Ollama, LM Studio und vLLM. Im GDPval-v2 liegt die 24-GB-Fassung bei knapp 28 Punkten und etwa 78 Tokens pro Sekunde. Eine 4-GB-Fassung namens E4B soll noch im Oktober folgen, gedacht fuer Sprachassistenten, interaktive Figuren und Geraeteoberflaechen.
Der Haken: das Tempo haengt an der Hardware
Die auffaelligsten Zahlen entstehen erst im Zusammenspiel mit Nvidias eigener Software und Technik. Mit der Inferenz-Software Dynamo nennt das Unternehmen achtmal mehr parallele Nutzer und 85 Prozent weniger Wartezeit bis zum ersten Token; auf 16 B200-GPUs steigt die Zahl gleichzeitiger Nutzer von rund 60 auf ueber 500, der Antwortbeginn sinkt von 2,75 s auf 0,4 s. Spekulatives Dekodieren soll auf DGX Spark bis zu 2,3-mal schnellere Textausgabe bringen. Offene Gewichte und proprietaere Beschleuniger greifen hier also ineinander: Wer die genannten Werte erreichen will, kauft Nvidia-Technik.
Wer das Modell schon anpasst
Nvidia nennt Dutzende Organisationen, die Super VL feinjustieren: EY fuer Due Diligence, Hebbia fuer Kreditvertraege, CrowdStrike fuer Netzwerkverteidigung, Salesforce fuer Behoerdenablaeufe, dazu Perplexity, Dassault Systemes und Mercor. Die genannten Effekte sind Erwartungen der Anwender, keine nachgepruefte Messung: Scale AI rechnet mit einem Vierzigstel der Kosten und einem Fuenftel der Antwortzeit, Ramp mit zehnmal schnelleren Antworten, AI21 mit 40 Prozent hoeherer Treffsicherheit. Auf der Datenseite hat Nvidia unter anderem einen Indic-Datensatz mit 2,83 Billionen Tokens in 22 indischen Sprachen veroeffentlicht, entstanden mit IIT Madras und AI4Bharat. Das Nemotron-Buendnis umfasst laut Bericht Mistral AI, Thinking Machines Lab, Perplexity und Black Forest Labs.
Was offen bleibt
Ein zweiter vorgesehener Beleg zur Veroeffentlichung war nicht abrufbar; der Server antwortete zweimal mit HTTP 403. Dieser Text stuetzt sich daher auf eine einzige Redaktion. Nicht unabhaengig geprueft sind damit die genauen Lizenzbedingungen der Gewichte, die Kontextlaenge und saemtliche Benchmark-Werte, die auf Herstellerangaben zurueckgehen.
Häufige Fragen
Was ist Nemotron 3.5 Super VL?
Ein offenes multimodales Mixture-of-Experts-Modell von Nvidia mit 120 Milliarden Parametern, davon 12 Milliarden pro Token aktiv, ausgelegt auf Agenten-Aufgaben, Dokumentenanalyse und Video.
Welche Hardware braucht Nemotron 3.5 Bolt?
Die Fassung 74B-A9B ist fuer 24 GB VRAM quantisiert und laeuft laut Nvidia auf DGX Spark, RTX Spark, GeForce RTX, DGX Station und RTX-PRO-Arbeitsplaetzen; eine 4-GB-Variante E4B ist fuer Oktober angekuendigt.
Sind die Gewichte von Nemotron 3.5 frei verfuegbar?
Nvidia stellt Basis-, nachtrainierte und 4-Bit-Versionen auf Hugging Face bereit. Die genauen Lizenzbedingungen konnten wir mit dem einen verfuegbaren Beleg nicht pruefen.
