Telset.id – AMD dan Cerebras Systems mengumumkan rencana kolaborasi untuk mengembangkan platform yang menggabungkan prosesor EPYC milik AMD dalam infrastruktur rack-scale Helios dengan solusi Wafer-Scale Engine (WSE) milik Cerebras. Platform baru ini menjanjikan kombinasi latensi rendah dari CPU AMD dan GPU Instinct dengan throughput tinggi dari prosesor WSE Cerebras.
Kedua perusahaan menghadirkan pendekatan baru dalam inferensi AI dengan memisahkan beban kerja berdasarkan arsitektur yang paling optimal. Platform ini menggunakan rak AMD Helios dengan CPU EPYC dan akselerator Instinct MI400-series untuk menangani pemrosesan prompt dan konteks jendela besar, sementara Cerebras WSE bertanggung jawab atas tahap token generation yang membutuhkan bandwidth memori tinggi.
Pendekatan disagregasi ini merupakan strategi yang semakin populer di industri AI. Seperti yang terlihat pada Chip AI Terkuat dari Google, pemisahan beban kerja inferensi menjadi kunci untuk mencapai efisiensi maksimal.
AMD dan Cerebras memperkirakan platform inferensi disagregasi mereka dapat memberikan performa hingga 5X lebih tinggi dalam hal token per detik per watt (T/s/W). Peningkatan ini dicapai dengan menugaskan bagian beban kerja inferensi yang berbeda ke arsitektur yang dioptimalkan untuk masing-masing bagian tersebut.
Dalam skema ini, AMD Helios menyediakan kapasitas komputasi rack-scale dan menangani permintaan kompleks dalam volume besar. Sementara itu, Cerebras WSE menangani token generation yang sensitif terhadap latensi. Kedua platform komputasi ini akan beroperasi dalam satu alur kerja inferensi yang terintegrasi.
Baca Juga:
Meskipun demikian, kedua perusahaan belum mengungkapkan data performa tambahan atau menjelaskan bagaimana sistem-sistem tersebut akan saling terhubung. Detail teknis mengenai interkoneksi antar rak masih menjadi informasi yang belum dipublikasikan.
Konsep dasar platform AMD dan Cerebras ini pada dasarnya mirip dengan konsep CPX milik Nvidia. Namun, AMD dan Cerebras menugaskan perangkat keras khusus ke tahap inferensi yang berlawanan. Desain disagregasi Nvidia memisahkan inferensi menjadi context/prefill dan generation/decode.
GPU Rubin CPX yang dibatalkan dengan GDDR7 dioptimalkan khusus untuk tahap context/prefill yang berat secara komputasi. Sementara itu, GPU Rubin reguler yang dilengkapi HBM menangani tahap generation yang terikat bandwidth memori.
Sebaliknya, platform AMD dan Cerebras mengikuti prinsip disagregasi yang sama, tetapi spesialisasinya dibalik. Platform Helios AMD dengan GPU Instinct menangani tahap prefill dan memproses prompt serta konteks jendela besar. Cerebras WSE mengambil alih tahap decode dan menangani token generation yang sensitif terhadap latensi.
Pendekatan ini menunjukkan bagaimana industri AI terus berinovasi dalam mengoptimalkan infrastruktur inferensi. Persaingan di sektor ini semakin ketat, dengan berbagai pemain menghadirkan solusi unik mereka masing-masing. Misalnya, Etched Raup $1 Miliar dari chip AI kustom yang menjadi pesaing Nvidia.
Cerebras berencana menginstal sistem AMD Helios di pusat data mereka sendiri dan mengintegrasikannya dengan rak WSE milik mereka. Penawaran gabungan ini dijadwalkan tersedia pertama kali melalui Cerebras Cloud pada paruh kedua tahun 2026, menurut pernyataan kedua perusahaan.
Langkah ini merupakan bagian dari strategi AMD untuk memperkuat posisinya di pasar infrastruktur AI. Dengan menggabungkan kekuatan prosesor EPYC dan GPU Instinct dengan teknologi WSE Cerebras, AMD menawarkan alternatif yang menarik bagi perusahaan yang mengembangkan model AI besar.
Keunggulan utama platform ini terletak pada efisiensi energi yang lebih baik. Dengan memberikan beban kerja ke arsitektur yang paling sesuai, konsumsi daya dapat dioptimalkan secara signifikan. Target 5X lebih tinggi dalam hal token per detik per watt menunjukkan potensi penghematan biaya operasional yang substansial.
Bagi pengembang AI dan perusahaan teknologi, kolaborasi ini membuka opsi baru dalam membangun infrastruktur inferensi. Alih-alih bergantung pada satu vendor untuk seluruh solusi, mereka kini memiliki fleksibilitas untuk menggabungkan komponen dari berbagai pemasok.
Pasar inferensi AI sendiri terus berkembang pesat seiring dengan semakin banyaknya aplikasi AI yang digunakan secara luas. Dari asisten virtual hingga sistem rekomendasi, kebutuhan akan inferensi yang cepat dan efisien semakin mendesak.
Platform AMD dan Cerebras menjanjikan solusi yang dapat memenuhi kebutuhan tersebut dengan pendekatan yang unik. Namun, keberhasilan platform ini akan sangat bergantung pada implementasi teknis dan kemampuan kedua perusahaan untuk mengintegrasikan sistem mereka secara mulus.
Belum ada informasi mengenai harga atau model lisensi untuk platform ini. Detail lebih lanjut kemungkinan akan diumumkan mendekati waktu peluncuran pada paruh kedua 2026.
Dengan jadwal peluncuran yang masih sekitar satu tahun lagi, AMD dan Cerebras memiliki waktu untuk menyempurnakan integrasi dan melakukan pengujian performa. Industri AI akan mengamati dengan seksama perkembangan kolaborasi ini.
Ke depannya, pendekatan disagregasi seperti ini mungkin akan menjadi standar baru dalam industri inferensi AI. Kemampuan untuk memilih arsitektur terbaik untuk setiap tahap inferensi memberikan fleksibilitas yang tidak dimiliki oleh solusi monolitik.
Bagi Cerebras, kolaborasi dengan AMD membuka akses ke basis pelanggan yang lebih luas. Perusahaan yang sebelumnya mungkin ragu mengadopsi teknologi WSE kini memiliki opsi untuk menggabungkannya dengan infrastruktur AMD yang sudah mapan.
Sementara itu, AMD mendapatkan mitra yang kuat di segmen inferensi AI. Teknologi WSE Cerebras yang unik memberikan keunggulan kompetitif yang sulit ditiru oleh pesaing.
Persaingan di pasar AI semakin menarik dengan berbagai pendekatan dan kolaborasi yang muncul. Nvidia tetap menjadi pemain dominan, tetapi alternatif dari AMD dan Cerebras memberikan pilihan yang lebih beragam bagi pelanggan.
Keputusan Cerebras untuk menginstal sistem AMD Helios di pusat data mereka sendiri menunjukkan tingkat komitmen yang tinggi terhadap kolaborasi ini. Integrasi yang mendalam antara kedua platform diharapkan dapat memberikan performa optimal.
Dengan semua perkembangan ini, tahun 2026 akan menjadi tahun yang menarik bagi industri inferensi AI. Peluncuran platform AMD dan Cerebras akan menjadi salah satu momen penting yang patut dinantikan.
Komentar
Belum ada komentar.