Telset.id – Nvidia resmi membuka sumber kode (open source) untuk API cuFile dan seluruh tumpukan storage di bawahnya, sekaligus meluncurkan inisiatif industri bernama Storage-Next yang melibatkan lebih dari 40 vendor flash dan storage. Langkah ini menegaskan posisi Nvidia bahwa lompatan AI berikutnya tidak hanya bergantung pada silikon, tetapi juga pada storage yang memberi makan komputasi terakselerasi.
Dalam inisiatif ini, Nvidia juga memperkenalkan framework SCADA, sebuah sistem yang memungkinkan GPU menarik data langsung dari drive tanpa CPU menjadi perantara setiap permintaan. Google, Intel, dan Meta tercatat sebagai maintainer pendiri organisasi GitHub baru ini, sebuah sinyal kuat bahwa standar GPU-initiated storage akan menjadi arah industri ke depan.
Mengapa Nvidia Fokus pada Storage untuk AI?
Pendekatan Nvidia sebenarnya bukan hal baru. cuFile diperkenalkan pada 2019 sebagai komponen antarmuka GPUDirect Storage dan telah dikirim sejak 2021. Fungsinya adalah menghilangkan CPU dari jalur data. Byte bergerak melalui Direct Memory Access (DMA) langsung antara drive dan memori GPU, tanpa bounce buffer di RAM host.
Namun, yang tetap berada di CPU adalah jalur kontrol. Software host masih memutuskan apa yang akan diambil dan mengeluarkan setiap permintaan, dengan GPU sebagai target DMA, bukan inisiator. Pemisahan ini tidak terlihat pada ukuran transfer besar, tetapi menjadi masalah kritis pada ukuran kecil.
SCADA adalah bagian yang memindahkan jalur kontrol ke GPU, memungkinkannya menyusun dan menyelesaikan permintaan storage sendiri serta menyerap latensi per operasi, sama seperti GPU menyerap latensi memori dengan menjaga ratusan ribu operasi tetap berjalan. Keduanya saling melengkapi: cuFile untuk transfer besar, SCADA untuk volume tinggi pembacaan acak kecil.
Masalah yang dipecahkan adalah perilaku SSD enterprise yang selama hampir satu dekade disetel untuk pembacaan acak 4KB demi menyesuaikan virtualisasi dan database. Akibatnya, sebagian besar controller melakukan jumlah kerja yang sama untuk melayani 512 byte data seperti halnya permintaan pembacaan 4KB.
Pola akses inferensi AI jauh lebih kecil dari itu. Embedding berjalan beberapa ratus byte, dan blok KV cache berada jauh di bawah satu kilobyte. Melayani mereka dari drive yang disetel untuk 4K menghasilkan amplifikasi pembacaan sekitar delapan kali lipat. Pada puluhan terabyte objek kecil, amplifikasi ini menentukan apakah flash dapat berfungsi sebagai tier memori.
Baca Juga:
Ekonomi KV Cache dan Target 512-Byte IOPS
KV cache, yang merupakan status attention untuk setiap token yang sudah diproses, tumbuh seiring panjang konteks. Deployment agentic menjalankan ribuan percakapan bersamaan, sehingga KV cache cepat melampaui kapasitas memori GPU. Menghitung ulang entri yang diusir membutuhkan lebih banyak waktu GPU daripada membacanya kembali, sehingga desain standar meluap dari memori GPU ke memori sistem dan flash, lalu mengisi ulang melalui volume tinggi pembacaan acak kecil.
Melayani dari flash daripada DRAM meningkatkan panjang konteks dan jumlah pengguna bersamaan yang dapat didukung setiap GPU, yang pada akhirnya memengaruhi biaya per pengguna dalam melayani model. Ini menjelaskan mengapa Nvidia fokus pada 512-byte IOPS daripada bandwidth mentah, karena performa inferensi sangat bergantung pada yang pertama.
Membuka cuFile merupakan perubahan signifikan, karena lapisan ini selama ini berada di dalam CUDA. Logika di baliknya bukan amal. Antarmuka storage yang diinisiasi GPU hanya menguntungkan jika vendor drive, controller, dan array membangunnya. Vendor tidak akan membangun antarmuka proprietary milik perusahaan yang GPU-nya mereka beri makan.
Menerbitkan antarmuka, membuka sumber kode implementasi, dan mengumpulkan lebih dari 40 vendor untuk menstandarkan perilaku hardware adalah cara Nvidia menjadikan GPU-initiated storage sebagai standar industri. Nvidia juga paling diuntungkan dari hasil ini karena menjual sebagian besar GPU yang dimaksud.
StorageReview mencatat partisipasi Intel sebagai perkembangan signifikan. Pemasok utama silikon x86 yang saat ini berada di controller storage telah menandatangani untuk memelihara software yang dirancang menghilangkan silikon tersebut dari jalur I/O. Google dan Meta yang ikut memelihara lapisan yang menstandarkan cara akselerator menjangkau storage, sambil membangun akselerator mereka sendiri, menunjuk ke arah yang sama.
Sistem mitra dari DDN, Dell, HPE, IBM, VAST Data, dan WEKA dijadwalkan hadir pada paruh kedua 2026. Drive Kioxia XL-Flash yang dirancang untuk akses 512-byte sedang dikembangkan di bawah Storage-Next. Roadmap Nvidia menyebut SSD Gen7 yang mampu mempertahankan 100 juta IOPS per unit, yang merupakan target yang dirancang vendor controller, bukan produk yang bisa dibeli siapa pun.
Storage-Next sendiri telah dibahas publik sejak GTC 2025. Pekan ini, inisiatif tersebut mendapatkan jumlah anggota dan framework untuk dibangun. Langkah Nvidia ini merupakan dorongan yang koheren dan terargumentasi dengan baik pada bottleneck nyata, dengan mitra yang kredibel.
Bagi industri teknologi di Indonesia, perkembangan ini menandakan bahwa infrastruktur AI tidak lagi hanya soal chip. Startup AI dan penyedia layanan yang ingin membangun kapasitas inferensi perlu memperhatikan arah standar storage ini, karena akan menentukan efisiensi biaya operasional model AI dalam skala besar.
Dengan Google dan Meta sebagai maintainer pendiri, arah industri ini semakin jelas: masa depan komputasi AI bergantung pada kolaborasi terbuka antara produsen GPU, vendor storage, dan penyedia layanan cloud. Perkembangan AI di level infrastruktur ini akan menjadi fondasi bagi inovasi aplikasi yang lebih luas ke depannya.
Komentar
Belum ada komentar.