Telset.id – Marvell resmi memperkenalkan Photonic Fabric Memory Module, modul memori pertama yang diklaim sebagai “high-capacity, high-bandwidth memory” dengan interkoneksi optik. Modul ini menjadi blok pembangun Photonic Fabric Memory Appliance yang menggabungkan 16 modul untuk berbagi 32TB DDR5 dan 1.152GB HBM3e ke sebanyak 16 host melalui serat optik. Perangkat ini belum dikirim ke pelanggan; Marvell menargetkan customer sampling pada 2027.
Pengumuman ini disampaikan Marvell melalui video di platform X dan wawancara theCUBE yang direkam sekitar Investor Day 6 Oktober. Pendekatan yang ditawarkan sederhana secara konsep: menggantikan tembaga dengan cahaya agar puluhan terabyte memori dapat ditempatkan di kotak terpisah, berjarak beberapa rak, dan dipakai bersama oleh banyak prosesor sekaligus. Jika terwujud, ini berpotensi melahirkan penggunaan memori komunal atau shared memory secara luas di banyak server AI.
Perlu klarifikasi: angka 32TB bukan milik satu modul, melainkan milik Photonic Fabric Memory Appliance yang menyatukan 16 modul dan membagi pool memori ke hingga 16 host. Host tersebut bisa berupa server utuh atau akselerator individual, sehingga 16 GPU bisa saja meremehkan jangkauan potensial di satu sisi, namun sekaligus melebih-lebihkan bandwidth yang akan diterima satu GPU di sisi lain.
Spesifikasi Modul dan Target Beban Kerja KV Cache
Setiap modul memadukan 72GB HBM3e dengan slot untuk hingga delapan DDR5 DIMM, sebuah Photonic Fabric ASIC, dan 7,2Tbps optical I/O, mengacu pada presentasi Marvell di Hot Interconnects Agustus 2026. Untuk mencapai 2TB per modul, seluruh delapan slot harus diisi RDIMM 256GB. Dengan enam belas modul yang dihubungkan oleh passive all-to-all fiber shuffle alih-alih switch elektrik, totalnya menjadi 32TB DDR5 ditambah 1.152GB HBM3e, yang oleh Marvell dibulatkan menjadi sekitar 1TB dan dijalankan sebagai write-through cache yang lebih cepat di depan DRAM.
Marvell menyasar ekonomi akselerator saat ini. HBM berada sekitar 1,5 milimeter dari prosesor dalam paket yang sama, sehingga satu-satunya cara menambah kapasitasnya adalah membeli lebih banyak prosesor. Ini semakin mahal karena HBM sangat mahal, dan membuat GPU pada dasarnya berperan sebagai “pengendali memori termahal di dunia,” menurut Dave Lazovsky. Beban kerja yang dituju adalah KV cache, memori kerja yang disimpan model bahasa besar untuk setiap percakapan dan membengkak pada konteks panjang serta sesi agentic. Ketika melebihi HBM lokal dan DRAM host, server harus mengeluarkannya lalu menghitung ulang, atau mengambilnya dari penyimpanan yang jauh lebih lambat.
Ravi Mahatme, yang memimpin manajemen produk unit Photonic Fabric, menyebut manfaat terbesar dari tier bersama adalah “cross-node KV cache,” yang memungkinkan satu akselerator menggunakan kembali konteks yang sudah dihitung akselerator lain. Will Chu, EVP Custom Cloud Solutions Marvell, menyampaikan argumen lebih luas dalam pengumuman FMS perusahaan: “As AI scales, memory must scale more independently of compute.”
Argumen CAPEX dan Tekanan Harga DDR5
Argumen CAPEX berakar pada hal ini: jika operator dapat membeli memori terpisah dari akselerator, mereka tidak perlu membeli GPU hanya untuk mendapatkan kapasitas. Logikanya masuk akal, tetapi Marvell belum memberikan angka pastinya. Sebuah blog perusahaan Mei 2026 membahas biaya memori per gigabyte yang lebih rendah dan biaya inferensi yang lebih rendah tanpa angka, sementara slide konferensi Celestial AI 2025 menjanjikan manfaat di luar pengurangan TCO tanpa data pendukung.
Waktu peluncuran juga tidak ideal untuk memanfaatkan memori murah. Pendekatan ini membutuhkan 128 slot DIMM yang bergantung pada DDR5 yang tengah dilanda krisis memori, di mana harga server RDIMM naik lebih cepat daripada memori konsumen dan kini berada di sekitar 5,5 kali harga sebelum krisis di Amerika Serikat. Desain appliance-nya pun bukan hal yang sepenuhnya baru; Celestial AI mempresentasikan arsitektur serupa, 16 modul berisi 32TB DDR dan sekitar 1TB HBM, di Hot Interconnects Agustus 2025, dan TechRadar pernah membahas pendekatan DDR5-plus-HBM ini pada 2024. Yang berubah kini adalah label Marvell, modul fisik, dan tanggal sampling.
Nvidia sudah mengantisipasi sejak lama, baik sebagai investor maupun pionir. Pada Maret 2026, Nvidia menginvestasikan US$2 miliar di Marvell dalam kesepakatan yang mencakup NVLink Fusion dan silicon photonics, dengan Jensen Huang menyatakan bahwa “The inference inflection has arrived.” Setiap platform NVLink Fusion wajib menyertakan setidaknya satu produk Nvidia, sehingga Nvidia tetap dibayar bahkan ketika silikon kustom memenangkan soket.
Nvidia juga membawa jawaban sendiri untuk masalah memori yang sama melalui beberapa cara. Satu rak Vera Rubin NVL72 membawa 54TB LPDDR5X, lebih besar dari seluruh appliance Marvell. Di Nvidia GTC 2026, perusahaan meluncurkan BlueField-4 STX, tier memori konteks berbasis flash untuk KV cache, dengan klaim hingga lima kali throughput token dibanding penyimpanan berbasis CPU. Huang menyebut AI penalaran membutuhkan “a new class of storage,” dan sistem mitra dijadwalkan hadir pada paruh kedua 2026. Pada 2025, Nvidia dikabarkan membelanjakan lebih dari US$900 juta untuk Enfabrica, yang sistem EMFASYS-nya menyatukan hingga 18TB memori untuk klaster GPU. Di bidang optik, Nvidia menginvestasikan US$4 miliar ke Lumentum dan Coherent, memperkenalkan photonics switch di GTC 2025, dan akan menawarkan co-packaged optics sebagai opsi NVLink pada sistem generasi Feynman yang dijadwalkan 2028. Soal pilihan antara tembaga dan optik untuk scale-up, Huang pernah berkata: “We’re going to do both.”
Marvell masih memiliki jalan panjang: silikon yang berfungsi, pelanggan yang disebutkan namanya, mitra memori, dan throughput terukur pada perangkat keras nyata alih-alih kurva simulasi semuanya harus berjalan sesuai rencana. Sampai saat itu, appliance ini adalah cetak biru yang argumentatif, dan penghematan CAPEX masih berupa argumen ketimbang angka. Ironinya sulit dilewatkan: perusahaan yang GPU-nya disebut Lazovsky sebagai pengendali memori termahal di dunia memiliki saham US$2 miliar di Marvell, dan melalui NVLink Fusion berpeluang meraup keuntungan dari rak mana pun yang menang. Sementara itu, pengguna yang ingin mengatur sendiri kurasi konten digital mereka bisa melihat langkah serupa lewat Google Contacts Update dan fitur Stiker Add Yours di WhatsApp.
Komentar
Belum ada komentar.