Mejora gratuita del rendimiento de la IA: Una nueva herramienta libera el potencial de las tarjetas gráficas Nvidia.

Un programador con el apodo Zagitta ya ha presentado una herramienta de desbloqueo para tarjetas gráficas Nvidia que aumenta significativamente el rendimiento de los núcleos Tensor para tareas de IA, pero solo funciona en Linux. Recientemente, un programador con el apodo delfín físico emitió una solución en forma de controlador previo UEFI, que también ofrece compatibilidad con Windows.

El programa está escrito en Rust y se ejecuta en un entorno UEFI DXE especial antes de que se cargue el controlador oficial. En este paso, realiza varias intervenciones en el firmware, desde la limpieza de SEC2 y la preparación de FWSEC hasta el inicio de GSP-RM y, finalmente, la escritura y verificación de comandos. El desbloqueo se realiza sobrescribiendo los registros de la memoria USB en cada arranque. Dado que la función de arranque seguro debe estar desactivada, algunos juegos con protección antitrampas podrían no funcionar.

La versión 2.1.6 ya ha sido probada y confirmada para toda la serie RTX 3000. Todavía se están recopilando las confirmaciones de los usuarios para las series RTX 2000 y RTX 4000. Los propietarios de tarjetas RTX 2000 deben ejecutar primero el script del modo GSP y luego reiniciar el sistema.

Los usuarios informan de aumentos de velocidad significativos al trabajar con modelos de IA. Las mejoras suelen oscilar entre el 50 y el 80 por ciento para cargas de trabajo FP16 y FP32, y también se observan mejoras de rendimiento notables en BF16. Un usuario de RTX 4070 Ti Super duplicó con creces el rendimiento con la herramienta: de 57 a casi 151 TFLOPS para FP16, y de 57,5 a 127 TFLOPS para BF16. También se está desarrollando la compatibilidad con la serie GTX 16xx, que cuenta con núcleos enteros independientes.