Una nuova era per l'intelligenza artificiale: Nvidia lancia i server Groq 3 LPX.

Nvidia ha confermato ufficialmente che il suo acceleratore dedicato all'inferenza AI, denominato Groq 3 LPX, ha raggiunto la piena produzione di massa. La tecnologia è stata creata grazie all'acquisizione del personale e delle licenze di Groq, per un valore di quasi 18,5 miliardi di euro. I nuovi acceleratori Nvidia Groq 3 LPX sono progettati per integrarsi direttamente con la piattaforma Nvidia Vera Rubin esistente. Un singolo rack di server può ospitare fino a 256 acceleratori LPX, consentendo una densità di potenza di calcolo estremamente elevata.

Il primo cliente cloud ad utilizzare questi nuovi sistemi server nella propria infrastruttura è Nebius. Nell'ambito della sua cosiddetta "fabbrica di chip", gli armadi LPX saranno installati in parallelo con processori Nvidia Vera e acceleratori grafici Nvidia Rubin. Questa combinazione di apparecchiature dovrebbe garantire un'efficienza eccezionale nell'elaborazione dei modelli di intelligenza artificiale più complessi. Nonostante le elevate promesse di prestazioni, resta da vedere nella pratica come si comporterà l'intero sistema sotto carichi prolungati e se l'integrazione tra i diversi tipi di chip avverrà senza colli di bottiglia.

Le misurazioni effettuate dalla piattaforma indipendente di analisi artificiale hanno già mostrato risultati impressionanti. Durante i test del modello Google Gemma 4 31B con un volume di contesto di 100.000, l'apparecchiatura ha raggiunto una velocità di 3.400 token di output al secondo. Tali cifre rappresentano un notevole passo avanti nella velocità di risposta dei sistemi di intelligenza artificiale.

Anche l'industria spaziale sta mostrando interesse per il nuovo hardware di Nvidia. SpaceX ha rivelato che il suo prossimo sistema avanzato di intelligenza artificiale funzionerà sui processori Nvidia Vera. Questo progetto prevede l'utilizzo all'interno di futuri data center orbitali, il che rappresenta una sfida tecnologica completamente nuova e piuttosto rischiosa.