Eine neue Ära für künstliche Intelligenz: Nvidia bringt Groq 3 LPX-Server auf den Markt

Nvidia hat offiziell bestätigt, dass sein dedizierter KI-Inferenzbeschleuniger Groq 3 LPX die Serienproduktion erreicht hat. Die Technologie entstand durch die Übernahme der Mitarbeiter und Lizenzen von Groq im Wert von fast 18,5 Milliarden Euro. Die neuen Nvidia Groq 3 LPX-Beschleuniger sind für den direkten Anschluss an die bestehende Nvidia Vera Rubin-Plattform konzipiert. Ein einzelnes Serverrack bietet Platz für bis zu 256 LPX-Beschleuniger und ermöglicht so eine extrem hohe Rechenleistungsdichte.

Nebius ist der erste Cloud-Kunde, der diese neuen Serversysteme in seiner Infrastruktur einsetzt. Im Rahmen seiner sogenannten „Chipfabrik“ werden die LPX-Schränke parallel zu Nvidia Vera-Prozessoren und Nvidia Rubin-Grafikbeschleunigern installiert. Diese Gerätekombination soll bei der Verarbeitung anspruchsvollster KI-Modelle eine außergewöhnliche Effizienz gewährleisten. Trotz der hohen Leistungsversprechen bleibt abzuwarten, wie sich das Gesamtsystem unter Dauerlast bewährt und ob die Integration der verschiedenen Chiptypen reibungslos verläuft.

Messungen der unabhängigen Plattform für künstliche Intelligenzanalyse haben bereits beeindruckende Ergebnisse gezeigt. Beim Test des Google Gemma 4 31B-Modells mit einem Kontextvolumen von 100.000 erreichte das Gerät eine Ausgabegeschwindigkeit von 3400 Token pro Sekunde. Diese Werte stellen einen signifikanten Fortschritt in der Reaktionsgeschwindigkeit von KI-Systemen dar.

Auch die Raumfahrtindustrie zeigt Interesse an Nvidias neuer Hardware. SpaceX hat bekannt gegeben, dass sein nächstes fortschrittliches KI-System auf Nvidia-Vera-Prozessoren basieren wird. Geplant ist der Betrieb in zukünftigen orbitalen Rechenzentren, was eine völlig neue und nicht unerhebliche technologische Herausforderung darstellt.