Firmware Exploit Buka Limit AI Setengah Kecepatan GPU Nvidia RTX 20-40

Telset.id – Para modder menemukan cara menghapus batas performa AI setengah kecepatan yang diterapkan Nvidia pada GPU RTX 20, 30, dan 40-series melalui eksploit firmware, seperti dilaporkan VideoCardz. Tanpa batasan tersebut, RTX 4090 dapat mencapai dua kali lipat peak tensor rate, sementara matrix math pada RTX 3090 Ti meningkat hingga 80%, dengan keuntungan pada kartu lain yang bervariasi.

Temuan ini menjadi penting bagi pemilik GPU GeForce yang memakai kartunya untuk beban kerja AI, karena unlock tersebut mengembalikan throughput matrix-math native ke tangan pemilik kartu. Menurut spesifikasi resmi Nvidia sendiri, perusahaan membatasi FP32-accumulate math pada setengah dari FP16-accumulate rate di semua generasi GeForce terdampak. Batasan itu tidak berlaku pada kartu pro Turing dan Ampere.

Meski demikian, beban kerja nyata mendapatkan keuntungan yang jauh lebih kecil dibandingkan angka dua kali lipat peak RTX 4090. Kecepatan token chatbot juga tetap kurang lebih sama, karena performa tersebut bergantung pada memory bandwidth. Unlock ini dapat mempercepat prompt processing dan image generation.

Tiga Proyek Unlock dan Cakupan Kartunya

Ada tiga proyek terpisah yang menawarkan unlock per generasi, masing-masing dengan modul Linux tidak resmi sendiri, sementara build Windows eksperimental menempuh pendekatan berbeda. Cakupan kartu bervariasi antar generasi. Proyek gpu-unlock menangani Ampere dan mencantumkan seri GA102/GA103/GA104/GA106. Sebuah fork Ada, gpu-unlock-ada, mencakup RTX 4090 dan secara eksperimental 4090 D, 4070 Ti Super, serta 4060 Ti 16GB. Proyek turing-unlock, yang diadaptasi dari gpu-unlock, bekerja pada RTX 2080 Ti.

Untuk RTX 20 (Turing), turing-unlock mencatat hasil pada RTX 2080 Ti versi memory-modded 22GB, sementara GPU Turing lain ditambahkan namun belum diuji dan hanya mendukung FP16 karena Turing tidak memiliki dukungan BF16. Pada RTX 30 (Ampere), gpu-unlock mencatat hasil untuk RTX 3090 Ti, 3090, 3080 10GB, 3080 20GB (memory-modded), 3070, dan 3060 12GB. RTX 3070 Ti dan kartu GA103 belum diuji, dan satu kartu RTX 3080 Ti 20GB OEM tetap berada di setengah rate. Pada RTX 40 (Ada Lovelace), gpu-unlock-ada mencakup RTX 4090, sedangkan 4090 D, 4070 Ti Super, dan 4060 Ti 16GB masih eksperimental dengan satu kartu masing-masing. Untuk RTX 50 (Blackwell), tidak ada dukungan karena pengembang gpu-unlock menyebutnya di luar cakupan.

Sebesar Apa Peningkatan Performanya

Angka dua kali lipat berlaku untuk tensor rate. Pengembang fork Ada mencatat RTX 4090 bergerak dari 165,6 menjadi 331,6 TFLOPS pada FP16 dan 165,5 menjadi 330,6 TFLOPS pada BF16. Namun README gpu-unlock-ada menyatakan bahwa dalam benchmark matrix-multiply milik satu pemilik independen, median cuBLAS GEMM hanya melihat peningkatan 12–34% dan hingga 20%. Data terpisah untuk RTX 4070 Ti di Windows menunjukkan keuntungan matrix-multiply lebih besar, yakni +80,1% dan +76,4%, yang kemungkinan disebabkan oleh power limit.

Pada benchmark matrix-multiply, RTX 3090 Ti yang diuji mencatat +35% untuk FP16, +80% untuk BF16, dan +94% untuk TF32, berdasarkan pengujian pengguna dengan driver Nvidia yang dimodifikasi. README gpu-unlock mencantumkan keuntungan BF16 matrix-multiply dari laporan pengguna sebesar +25–67% untuk RTX 3090, +70–73% untuk 3080 10GB, +56–59% untuk versi 20GB memory-modded, +73–81% untuk 3070, dan sekitar +80% untuk 3060 12GB, meski catatan menyebut angka-angka itu tidak dapat dibandingkan secara langsung. Power limit “sangat berpengaruh”: angka terendah, +25%, berasal dari kartu yang dibatasi pada 225 W.

Untuk Ampere, LLM prefill meningkat 14–36%, dengan diffusion dan FlashAttention ikut melesat, tetapi LLM decode dan INT8 tetap “kurang lebih sama”. RTX 2080 Ti dengan mod memori 22GB, kartu OEM Dell yang dibatasi 250 W, mencatat peningkatan FP16 matrix-multiply +36% hingga +64% tergantung ukuran; BF16 tidak terpengaruh karena Turing tidak memiliki hardware BF16. Varian kartu yang sama pada 260 W mencatat peningkatan +59%. Proyek lain, KohakUnlock, pada Leadtek 2080 Ti 22GB mencatat peningkatan 85% pada uji instruction rate, dengan median matrix-multiply terbaik +53% dibandingkan kartu kedua yang masih terkunci dari model yang sama. README KohakUnlock menegaskan ini “bukan klaim percepatan aplikasi/game 2×”.

README turing-unlock mencatat bahwa mod ini “dapat merusak hardware Anda”, sementara KohakUnlock menambahkan bahwa mod tersebut “dapat membuat GPU atau host hang, mencegah boot, merusak data, atau merusak hardware”, sehingga kehati-hatian sangat dianjurkan. Bagi yang mengikuti perkembangan kebijakan Nvidia, informasi seputar lisensi software AI perusahaan juga menjadi konteks yang relevan.

Cara Kerja Eksploit Firmware

Penjelasan untuk gpu-unlock menyatakan bahwa rate limit berada di dua register “speed selector” yang tidak dapat ditulis oleh host driver, tetapi firmware SEC2 “Booter” bertanda tangan Nvidia memiliki stack buffer overflow yang dapat dieksploitasi untuk menjalankan kode dalam mode “heavy secure”. Bug ini ditemukan setelah Nvidia menerbitkan Booter debug yang dienkripsi dengan kunci uji publik yang diketahui. Satu penulisan 4-byte dengan payload V67 membuka privilege mask sehingga host dapat menetapkan rate penuh, lalu modul mereset kartu sebelum driver Nvidia terikat padanya.

Bug yang mendasarinya dijelaskan dalam “A Canary in the Crypto Mine: Defeating Stack Protection in a GPU Secure Coprocessor” karya Jon Pry, yang diterbitkan di Zenodo pada Juni. Stack overflow ditemukan pada CMP 170HX di Heavy Secure Falcon, dan konstanta V67 berasal dari WildFlash1st/cmp90hx-unlock. Timing pre-driver yang dipakai gpu-unlock tampaknya berasal dari Windows EFI bootloader terpisah milik WildFlash1st, cmp90hx-unlock-for-windows, sementara penggunaan eksploit paling dikenal adalah CMP Unlocker untuk CMP 170HX.

Zagitta, maintainer gpu-unlock, mengatakan di Hacker News bahwa proyek tersebut adalah karyanya tetapi “eksploitnya … sama sekali bukan ide saya” dan bahwa unlock itu “hanya membalik 2 bit” yang diperlukan. Zagitta menyebut dukungan RTX 40 sedang dikerjakan dan fork-fork sudah membuka kartu-kartu tersebut. Zagitta menambahkan bahwa kartu Hopper dan Blackwell “di luar cakupan pendekatan ini” setidaknya untuk saat ini. Fork Ada menyatakan board lain “tetap belum terverifikasi” dan firmware bersama “tidak menetapkan dukungan untuk kartu yang belum diuji”. Proyek turing-unlock juga memiliki daftar ID Turing yang belum diuji.

Masih ada celah untuk GA103 dan sebagian besar kartu Ada dan Turing. Tidak ada proyek yang memuat roadmap, tetapi data terus dikumpulkan karena gpu-unlock meminta pemilik GPU mengirimkan laporan kompatibilitas. Bagi pembaca yang memantau langkah korporasi Nvidia di sektor AI, topik seperti data center AI dan RTX Spark menjadi pengingat bahwa ekosistem AI Nvidia bergerak di banyak lini sekaligus.

Dengan semua angka di atas, unlock firmware ini bukan jalan pintas menuju performa dua kali lipat di aplikasi nyata. Keuntungan terbesar muncul pada matrix-multiply dan prompt processing, sementara decode dan INT8 relatif stagnan, dan hasil akhirnya sangat bergantung pada power limit masing-masing kartu.