Ottimizzazione delle prestazioni tramite IA gratuita: un nuovo strumento sblocca il potenziale delle schede grafiche Nvidia

Un programmatore con il nickname Zagitta ha già introdotto uno strumento per sbloccare le schede grafiche Nvidia che aumenta significativamente le prestazioni dei Tensor core per le attività di IA, ma funziona solo su Linux. Recentemente, un programmatore con il nickname physicsdolphin ha rilasciato una soluzione sotto forma di Pre-driver UEFIche offre anche il supporto per Windows.

Il programma è scritto in Rust e viene eseguito in un ambiente UEFI DXE speciale prima del caricamento del driver ufficiale. In questa fase, effettua diversi interventi sul firmware, dalla pulizia di SEC2 e dalla preparazione di FWSEC all'avvio di GSP-RM e infine alla scrittura e verifica dei comandi. Lo sblocco avviene sovrascrivendo i registri dalla chiavetta USB ad ogni avvio. Poiché la funzione Secure Boot deve essere disattivata, alcuni giochi con protezione anti-cheat potrebbero non funzionare.

La versione 2.1.6 è già stata testata e confermata per l'intera serie RTX 3000. Sono ancora in corso le conferme da parte degli utenti per le serie RTX 2000 e RTX 4000. I possessori di schede RTX 2000 devono prima eseguire lo script della modalità GSP e poi riavviare il sistema.

Gli utenti segnalano un significativo aumento di velocità quando lavorano con modelli di intelligenza artificiale. I miglioramenti si attestano in genere tra il 50 e l'80% per i carichi di lavoro FP16 e FP32, e si notano incrementi di prestazioni anche per BF16. Un utente con una RTX 4070 Ti Super ha più che raddoppiato le prestazioni con questo strumento: da 57 a quasi 151 TFLOPS per FP16 e da 57,5 a 127 TFLOPS per BF16. È in fase di sviluppo anche il supporto per la serie GTX 16xx, che dispone di core interi separati.