Kostenloser KI-Leistungsschub: Neues Tool erschließt das Potenzial von Nvidia-Grafikkarten

Ein Programmierer mit dem Nicknamen Zagitta hat bereits ein Tool zur Entsperrung von Nvidia-Grafikkarten vorgestellt, das die Leistung von Tensor-Kernen für KI-Aufgaben deutlich steigert. Es funktioniert jedoch nur unter Linux. Kürzlich hat ein Programmierer mit dem Nicknamen Physikdelfin eine Lösung in Form von UEFI-Vortreiber, was auch die Unterstützung für Windows mit sich bringt.

Das in Rust geschriebene Programm läuft in einer speziellen UEFI-DXE-Umgebung, bevor der offizielle Treiber geladen wird. Dabei nimmt es verschiedene Eingriffe in die Firmware vor, von der Bereinigung von SEC2 und der Vorbereitung von FWSEC über den Start von GSP-RM bis hin zum Schreiben und Überprüfen von Befehlen. Die Entsperrung erfolgt durch Überschreiben der Register vom USB-Stick bei jedem Systemstart. Da Secure Boot deaktiviert werden muss, funktionieren manche Spiele mit Anti-Cheat-Schutz möglicherweise nicht.

Version 2.1.6 wurde bereits für die gesamte RTX-3000-Serie getestet und bestätigt. Für die RTX-2000- und RTX-4000-Serie werden noch Nutzerbestätigungen gesammelt. Besitzer einer RTX-2000-Karte müssen zuerst das GSP-Modus-Skript ausführen und anschließend das System neu starten.

Nutzer berichten von deutlichen Geschwindigkeitssteigerungen bei der Arbeit mit KI-Modellen. Die Verbesserungen liegen typischerweise zwischen 50 und 80 Prozent bei FP16- und FP32-Workloads, und auch bei BF16 sind Leistungszuwächse spürbar. Ein Nutzer einer RTX 4070 Ti Super konnte seine Leistung mit dem Tool mehr als verdoppeln: von 57 auf fast 151 TFLOPS bei FP16 und von 57,5 auf 127 TFLOPS bei BF16. Die Unterstützung für die GTX-16xx-Serie mit ihren separaten Integer-Kernen ist ebenfalls in Entwicklung.