Telset.id – Nvidia memperkenalkan NVHBM, arsitektur memori high-bandwidth kustom yang menjanjikan peningkatan hingga 30% bandwidth per stack dibandingkan standar HBM4E. Pengumuman ini menjadi bagian dari perluasan program NVLink Fusion pada 26 Agustus, menyasar keterbatasan bandwidth yang selama ini menjadi hambatan utama pengembangan model AI frontier.
Arsitektur baru ini juga diklaim mampu menekan konsumsi daya HBM hingga 15% lebih rendah sekaligus menambah area komputasi yang dapat digunakan pada accelerator die hingga 25%. Amazon melalui Annapurna Labs menjadi mitra pertama yang disebutkan secara resmi untuk adopsi teknologi memori ini.
Mengubah Cara Kerja Manajemen Memori
Pendekatan Nvidia tidak mengubah cara memori diproses, melainkan mengubah lokasi pengelolaannya. Pada arsitektur HBM konvensional, vendor memori memasok DRAM stack beserta base die, sementara desainer accelerator menempatkan memory controller dan physical interface pada compute die masing-masing. JEDEC menstandarkan koneksi antara keduanya dengan konsekuensi bus paralel yang sangat lebar namun relatif lambat.
NVHBM menghilangkan batas tersebut dengan memindahkan memory controller Nvidia ke dalam base die pada 3D stack. Bus standar digantikan oleh die-to-die link serial yang lebih sempit, dirancang oleh Nvidia dan dapat diproduksi oleh vendor memori. Hasilnya, area interface dan dukungan berkurang hingga 67% dibandingkan standar JEDEC HBM4E.
Konsep dasar teknologi ini sebenarnya bukan hal baru. Marvell telah mengumumkan ide serupa pada Desember 2024 dengan menggandeng Micron, Samsung, dan SK hynix sebagai kolaborator. Marvell saat itu mengklaim tambahan area komputasi hingga 25%, kapasitas memori lebih besar 33%, dan pengurangan daya interface memori hingga 70% — angka yang mendekati proyeksi Nvidia saat ini.
Analis Counterpoint Research Neil Shah memberikan penilaian tegas: “Teknologinya tidak baru. Yang baru adalah distribusinya.”
Baca Juga:
Ketersediaan dan Akses Terbatas
Meski menjanjikan, NVHBM masih jauh dari tahap produksi massal. HBM4E sendiri belum diproduksi secara massal — Samsung baru mengirimkan sampel HBM4E pertama pada akhir Mei 2026, sementara SK hynix memajukan jadwal sampling ke sekitar Juni. NVHBM diperkirakan baru akan dikirim dalam volume besar pada 2027.
Akses ke solusi kustom ini pun tidak terbuka untuk semua. NVHBM merupakan building block yang berada di balik program NVLink Fusion, inisiatif Nvidia untuk menghubungkan accelerator pihak ketiga ke platform rack-scale miliknya. Hanya mitra terdaftar yang dapat mengakses teknologi ini.
Amazon melalui Annapurna Labs menjadi peserta pertama yang disebutkan secara resmi. Namun, blog teknis Nvidia hanya menyebut Annapurna akan mendukung NVLink Fusion dengan Trainium4, tanpa secara eksplisit mengonfirmasi penggunaan NVHBM.
Blog teknis Nvidia juga menjelaskan bahwa NVHBM dibangun di atas teknologi yang sama dengan yang akan digunakan untuk GPU masa depan, tanpa merinci generasi pertama yang akan mendukungnya secara native. Artinya, NVHBM kemungkinan baru hadir setelah HBM4E mulai diterapkan secara luas di lapangan.
Inovasi ini lahir dari kebutuhan mendesak akan bandwidth yang lebih besar untuk model AI frontier. Keterbatasan bandwidth selama ini menjadi penghambat utama skala komputasi AI. Dengan memindahkan memory controller ke base die, Nvidia berupaya memecahkan kebuntuan tersebut tanpa menunggu standar industri berikutnya.
Perbandingan performa NVHBM memang mengacu pada HBM4E yang masih dalam tahap sampling. Namun, angka yang dipublikasikan Nvidia — 30% bandwidth lebih tinggi, 15% daya lebih hemat, dan 25% area komputasi tambahan — menunjukkan potensi signifikan bagi pengembangan ekosistem AI yang lebih efisien.
Bagi industri, langkah Nvidia ini menegaskan arah kompetisi memori AI yang semakin personal dan proprietary. Alih-alih menunggu standar JEDEC berikutnya, pemain besar mulai merancang solusi memori yang disesuaikan dengan arsitektur komputasi mereka sendiri. Strategi serupa juga terlihat pada pengembangan produk AI Nvidia lainnya yang menargetkan segmen berbeda.
Kehadiran NVHBM juga berpotensi mengubah dinamika pasar memori AI. Vendor seperti Samsung dan SK hynix yang selama ini mengikuti standar JEDEC kini dihadapkan pada kebutuhan memproduksi base die dengan desain kustom Nvidia. Sementara itu, Amazon sebagai mitra pertama menunjukkan bahwa hyperscaler besar melihat nilai strategis dari adopsi awal teknologi ini.
Keputusan Nvidia menggandeng Annapurna Labs juga memperluas jangkauan NVLink Fusion melampaui sekadar GPU Nvidia sendiri. Dengan membuka akses ke accelerator pihak ketiga, Nvidia membangun posisi sebagai platform standar untuk komputasi AI rack-scale, bukan hanya pemasok chip individual.
Meski demikian, waktu peluncuran yang masih panjang membuat adopsi NVHBM penuh ketidakpastian. HBM4E yang kini masih dalam tahap sampling diperkirakan akan mendominasi pasar lebih dulu. NVHBM baru akan relevan ketika infrastruktur HBM4E sudah matang dan kebutuhan bandwidth model AI generasi berikutnya melampaui kapasitas standar yang ada.
Bagi pengamat industri, perkembangan ini menegaskan bahwa inovasi memori AI tidak lagi berpusat pada kepadatan sel DRAM semata. Arsitektur pengemasan, kontroler terintegrasi, dan desain interkoneksi menjadi medan persaingan baru yang menentukan performa sistem AI secara keseluruhan.
Langkah Nvidia ini juga sejalan dengan tren perluasan adopsi AI di berbagai segmen, dari pusat data hingga perangkat konsumen. Semakin luas penerapan AI, semakin besar kebutuhan akan infrastruktur memori yang mampu mengimbangi pertumbuhan model komputasi.
NVHBM pada akhirnya menjadi penanda bahwa era memori AI generik mungkin akan segera berakhir. Desain kustom yang terintegrasi erat dengan arsitektur komputasi spesifik akan menjadi norma baru — setidaknya bagi pemain yang memiliki skala dan sumber daya untuk mengembangkannya sendiri.
Bagi Nvidia, investasi pada arsitektur memori proprietary ini merupakan langkah defensif sekaligus ofensif. Secara defensif, teknologi ini melindungi posisi Nvidia dari tekanan keterbatasan bandwidth yang semakin nyata. Secara ofensif, NVHBM memperkuat ekosistem NVLink Fusion yang menjadi kunci strategi platform perusahaan ke depan.
Namun, tanpa dukungan eksplisit dari mitra manufaktur dan kepastian jadwal produksi, NVHBM masih menyimpan banyak tanda tanya. Satu hal yang jelas: persaingan teknologi memori AI telah memasuki babak baru yang lebih kompleks dan personal.
Komentar
Belum ada komentar.