Telset.id – AMD secara resmi meluncurkan GPU Instinct MI455X dan arsitektur rack-scale Helios pada ajang Advancing AI pekan ini. Produk ini menjadi jawaban paling serius AMD terhadap dominasi Nvidia di pasar akselerator AI, khususnya melalui desain NVL72 yang digunakan pada generasi Blackwell dan Rubin.
AMD menyebut MI455X sebagai “akselerator AI paling canggih yang pernah kami buat”. GPU ini mengusung 320 miliar transistor yang dibangun menggunakan teknologi packaging canggih. Empat Accelerator Complex Dies (XCDs) ditumpuk di atas masing-masing Fabric and Cache Die (FCD) menggunakan hybrid bonding. Dua FCD kemudian digabungkan dengan enam tumpukan HBM4, dua I/O dies, dan satu sama lain menggunakan teknologi CoWoS-L milik TSMC.
Pendekatan chiplet ini memungkinkan AMD menggunakan proses TSMC 2N gate-all-around (GAA) pada XCD untuk performa terbaik, sementara FCD dan I/O dies diproduksi dengan proses N3P yang lebih hemat biaya.
Arsitektur CDNA 5 juga mengalami perubahan besar. AMD kini menyebut blok bangunan dasar sebagai “Work Group Processor” (WGP) menggantikan istilah “Compute Unit”. Jumlah WGP pada MI455X tetap 256, sama seperti MI355X. Artinya, peningkatan performa besar-besaran berasal dari throughput per-WGP yang jauh lebih tinggi.
Salah satu perubahan kunci adalah lebar wavefront yang kini 32, bukan 64. AMD mengatakan perubahan ini meningkatkan latensi instruksi, penalti branch divergence, dan tekanan register. Pendekatan ini juga meningkatkan fleksibilitas arsitektur dalam berinteraksi dengan berbagai ukuran tensor tile. Menariknya, GPU RDNA telah menggunakan wavefront 32 sejak awal diperkenalkan.
Performa Komputasi yang Melonjak
CDNA 5 memberikan peningkatan performa komputasi yang dramatis dibandingkan CDNA 4. Secara teoritis, MI455X mampu menggandakan hingga melipatgandakan peak FLOPS. Format OCP MXFP8 dan MXFP4 secara teoritis 4X lebih cepat dibandingkan MI355X.
Berdasarkan data peak FLOPS, MI455X unggul atas Nvidia Rubin di beberapa metrik kunci. Dalam format OCP MXFP4, MI455X mencapai 40.26 PF berbanding 35 PF milik Rubin. Untuk OCP MXFP6 dan MXFP8, MI455X mencatat 20.13 PF berbanding 17.5 PF milik Rubin. Sementara untuk Matrix FP16/BF16, MI455X mencapai 5.03 PF berbanding 4 PF milik Rubin.
Namun AMD sendiri mengakui bahwa performa riil di dunia nyata kemungkinan besar akan lebih rendah dari angka teoritis tersebut. Tantangan utama tetap pada optimalisasi software dan aplikasi untuk mencapai performa maksimal. Hal ini menjadi fokus utama AMD ke depan, termasuk melalui kemitraan strategis seperti yang dilakukan dengan T-Mobile dalam pengembangan jaringan otonom AI.
Selain peningkatan komputasi umum, AMD juga meningkatkan performa transcendental math pada CDNA 5 Transcendental Unit. Unit ini memiliki implikasi luas untuk fungsi AI esensial seperti softmax, aktivasi neural network, dan attention. AMD mengklaim throughput Transcendental Unit dua kali lipat dibandingkan CDNA 4, serta menambahkan dukungan instruksi tanh eksplisit untuk operasi pada hidden layers neural network.
Cache dan Memori yang Direvisi Total
AMD melakukan revisi besar pada hierarki cache dan memori MI455X. Infinity Cache besar pada CDNA 4 digantikan dengan L2 cache bersama yang lebih kecil namun bandwidth lebih tinggi di setiap Fabric Compute Die. Setiap FCD memiliki 96MB L2 slice, total 192MB, dibandingkan hanya 32MB yang didukung 256MB Infinity Cache pada MI355X. AMD mengklaim cache ini menawarkan bandwidth 1.5X lebih tinggi per FCD, sehingga secara agregat MI455X memiliki 3X bandwidth L2.
Di dalam WGP, cache yang lebih besar, lebih cepat, dan lebih fleksibel tersedia. Local data store (LDS) atau scratchpad memory berukuran dua kali lipat menjadi 320 KB, dengan total 96 MB LDS di seluruh chip. AMD mengatakan LDS SRAM menawarkan bandwidth read dan write per clock yang lebih tinggi, namun tidak memberikan angka spesifik.
Perubahan paling kritis adalah migrasi ke HBM4. MI455X menggunakan enam tumpukan HBM4 per FCD dengan total 12 tumpukan, menawarkan kapasitas memori 432GB dan bandwidth 23.3 TB/s per GPU. Kapasitas dan bandwidth memori yang tinggi sangat krusial untuk menjaga bobot model AI dan KV cache tetap dekat dengan GPU demi performa terbaik.
Implementasi HBM ini menjadi salah satu keunggulan terkuat MI455X dibandingkan Nvidia Rubin. Rubin dalam konfigurasi awal hanya menawarkan 288GB HBM4 dengan bandwidth hingga 22 TB/s. Pada skala rack, kapasitas HBM MI455X yang lebih tinggi menghasilkan total 31.1 TB HBM di 72 GPU, atau 50% lebih banyak dibandingkan agregat 20.7 TB milik Vera Rubin.
Baca Juga:
Efisiensi Data Movement dan Arsitektur Helios
AMD juga meningkatkan efisiensi pergerakan data di dalam chip. CDNA 5 Tensor Data Mover (TDM) adalah versi perbaikan dari mesin pergerakan data generasi sebelumnya. TDM mempercepat produksi alamat memori spesifik tensor dan memfasilitasi perpindahan data terkait dari memori tanpa melibatkan shader engines. Pada generasi CDNA 5, TDM mendapatkan kemampuan untuk memindahkan data langsung dari DRAM ke cache LDS WGP tanpa staging di level cache intermediate.
AMD juga menambahkan dukungan multicast untuk memory reads ke WGP. Dengan multicast, satu pembacaan memori dapat diperkuat ke banyak WGP, meningkatkan bandwidth memori efektif, mengurangi lalu lintas duplikat pada bus, dan menurunkan konsumsi daya. Nvidia telah memiliki kemampuan serupa sejak Hopper, dan AMD akhirnya menghadirkan versinya sendiri.
Arsitektur rack-scale Helios menjadi kunci kompetitifitas AMD. Helios adalah desain pertama AMD yang menggabungkan 72 GPU ke dalam satu coherent domain, setara dengan NVL72 milik Nvidia. Dalam konfigurasi 72 GPU, Helios menawarkan agregat memori 31.1 TB HBM, 50% lebih besar dari Vera Rubin yang hanya 20.7 TB.
Karena performa inferensi AI didominasi oleh data locality dan memory bandwidth, keunggulan AMD dalam aspek ini pasti akan menarik banyak perhatian. AMD telah mengumumkan kesepakatan penting dengan Microsoft dan Anthropic, menandakan bahwa keunggulan teknis mulai diterjemahkan menjadi kemenangan pelanggan nyata.
Secara keseluruhan, MI455X adalah produk Instinct paling kompetitif yang pernah dibuat AMD. Dengan peningkatan performa generasional yang masif, peak FLOPS yang kompetitif atau unggul dari Nvidia Rubin, dan memori HBM4 432GB yang 1.5x lebih besar, AMD kini memiliki jawaban serius untuk dominasi Nvidia. Persaingan AI compute diprediksi akan memanas di paruh kedua tahun ini ketika kedua perusahaan mulai mengirimkan produk generasi berikutnya ke pelanggan.
Komentar
Belum ada komentar.