Groq 3 LPX in Serie: Nvidia beschleunigt Vera Rubin
Der Beschleuniger erreicht 3.400 Ausgabe-Token pro Sekunde im Gemma-4-31B-Benchmark. Erste KI-Cloud mit dem Chip ist Nebius, CoreWeave setzt das neue Netzwerk ein.
Symbolbild: eine nächtliche Rechenzentrumshalle mit langen Reihen dunkler Serverschränke und über Kopf geführten Glasfaserbündeln.
Nvidia hat den Inferenzbeschleuniger Groq 3 LPX am 24.08.2026 in die Serienfertigung überführt und erweitert damit das Rack-System Vera Rubin NVL72 um eine Stufe, die ausschließlich auf schnelle Token-Ausgabe für KI-Agenten ausgelegt ist.
Auf einen Blick
- Groq 3 LPX ist laut Nvidia seit dem 24.08.2026 in Serienfertigung und erweitert das Rack-System Vera Rubin NVL72.
- Referenzwert des Herstellers: 3.400 Ausgabe-Token pro Sekunde bei Gemma 4 31B mit 100.000 Token Kontext.
- Nvidia nennt die Konfiguration bis zu viermal reaktionsschneller als die nächstbeste Plattform; unabhängige Messung fehlt.
- Bis zu 256 Beschleuniger je Rack-Verbund; Nebius ist die erste KI-Cloud mit dem Chip.
- Spectrum-X Multiplane skaliert nach Herstellerangabe auf 512.000 GPUs; CoreWeave setzt es produktiv ein.
Nvidia hat den Inferenzbeschleuniger Groq 3 LPX in die Serienfertigung überführt. Der Baustein ist nicht als eigenständige Plattform gedacht, sondern erweitert das Rack-System Vera Rubin NVL72 um eine Stufe für einen einzigen Abschnitt der Inferenz: das Erzeugen der Antwort-Token. Die Ankündigung datiert auf den 24.08.2026.
Der Engpass heißt Dekodierlatenz
Ein Sprachmodell liest zuerst die Eingabe und schreibt danach Token für Token die Antwort. Nvidia stellt den zweiten Schritt in den Mittelpunkt: Agenten rufen Werkzeuge auf, lesen deren Ergebnisse und formulieren neue Anfragen, sodass sich kleine Verzögerungen über lange Arbeitsketten aufaddieren. Genau auf diesen Abschnitt sei Groq 3 LPX zugeschnitten.
In der Berichterstattung von SiliconAngle wird Nebius-CTO Danila Shtan sinngemäß damit zitiert, die Generierungsphase entscheide darüber, wie reaktionsschnell ein KI-System tatsächlich wirke. Nvidia-Chef Jensen Huang ordnet Vera Rubin dort als Baukasten workload-optimierter Konfigurationen für agentische KI ein.
Die Zahlen des Herstellers
Als Referenz nennt Nvidia 3.400 Ausgabe-Token pro Sekunde für das Modell Gemma 4 31B bei einem Kontextfenster von 100.000 Token. Ein Rack-Verbund soll bis zu 256 Beschleuniger aufnehmen. Die Konfiguration arbeite bis zu viermal reaktionsschneller als die nächstbeste Plattform.
Alle drei Angaben stammen vom Anbieter. Unabhängige Messungen zu Durchsatz, Latenzverteilung oder Energiebedarf liegen zum Zeitpunkt der Ankündigung nicht vor.
Das Netz zählt mehr als der Chip
Nvidia rahmt die Ankündigung ausdrücklich als Zusammenspiel mehrerer Ebenen. Zum Paket gehören:
- Spectrum-X Multiplane — Ethernet-Fabric, die nach Herstellerangabe auf 512.000 GPUs skaliert und 1,6-fach besser abschneiden soll als gewöhnliches Ethernet.
- Spectrum-6 — Switch-ASIC mit 102,4 Tb/s; die SuperNICs ConnectX-9 stellen je GPU 1.600 Gb/s bereit.
- Ausfallverhalten — in einer Topologie mit acht Ebenen sollen beim Ausfall einer Ebene 90 Prozent der Bandbreite erhalten bleiben; die Wiederherstellung in Hardware laufe elfmal schneller als per Software-Lastverteilung.
- Scale-In — setzt auf BlueField-4 auf und wird von Nvidia als fünfte Säule seiner KI-Netzwerke bezeichnet.
- NVLink Fusion — bindet fremdes Silizium in Nvidias Rack-Architektur ein und zielt auf halbkundenspezifische KI-Fabriken.
Für standortübergreifende NCCL-Kollektive gibt Nvidia eine 1,9-fache Beschleunigung an.
Wer den Chip bereits einsetzt
Nebius ist nach Nvidias Angaben die erste KI-Cloud mit Groq 3 LPX und bringt ihn über die Nebius Token Factory zu Kunden. CoreWeave betreibt Spectrum-X Multiplane produktiv. Für SpaceX beschreibt Nvidia den Einsatz von Vera-CPUs sowohl in Rechenzentren auf der Erde als auch in Satelliten im Orbit.
Was die Mitteilung offenlässt
Nvidia nennt weder Liefertermine noch Preise oder Stückzahlen; über die genannten Kunden hinaus bleibt die Verfügbarkeit offen. Der Titel des Blogbeitrags führt neben LPX eine CPX-Variante auf, der Fließtext erläutert sie an keiner Stelle.
Die Vorgeschichte steht nur in einer der beiden Quellen: SiliconAngle beziffert die Lizenzierung der Groq-Technik durch Nvidia im Dezember 2025 auf 20 Milliarden US-Dollar und nennt den Wechsel von Gründer Jonathan Ross und Präsident Sunny Madra. Nvidias eigene Mitteilung greift diesen Punkt nicht auf; er ist hier also nicht doppelt belegt.
Häufige Fragen
Was ist Nvidia Groq 3 LPX?
Ein Beschleuniger, der ausschließlich die Ausgabephase der Inferenz übernimmt und das Rack-System Vera Rubin NVL72 ergänzt, statt es zu ersetzen. Nvidia richtet ihn auf Agenten aus, bei denen sich Verzögerungen pro Token über lange Werkzeugketten summieren.
Wie schnell ist Groq 3 LPX?
Nvidia gibt 3.400 Ausgabe-Token pro Sekunde für Gemma 4 31B bei 100.000 Token Kontext an und beschreibt die Konfiguration als bis zu viermal reaktionsschneller als die nächstbeste Plattform. Beides sind Herstellerangaben ohne unabhängige Messung.
Ab wann ist Groq 3 LPX verfügbar und was kostet er?
Nvidia erklärt die Serienfertigung zum 24.08.2026, nennt aber weder Liefertermine noch Preise oder Stückzahlen. Als erste KI-Cloud mit dem Chip wird Nebius genannt, weitere Verfügbarkeit bleibt in beiden Quellen offen.
