Telset.id – Microsoft resmi mengumumkan Maia 300, chip AI in-house generasi ketiganya yang dirancang sebagai “primary AI inference system” untuk produk dan layanan Microsoft. Chip ini akan mulai di-rollout ke produksi pada 2027 dan menjadi fondasi bagi ambisi Microsoft menskalakan infrastruktur Azure Maia ke deployment multi-gigawatt. Langkah ini menegaskan upaya Microsoft mengurangi ketergantungan pada GPU dari Nvidia dan AMD.
Pengumuman Maia 300 menjadi sinyal penting bagi pasar infrastruktur AI. Scott Guthrie, executive vice president Microsoft’s cloud group, menyatakan bahwa Maia 300 diharapkan mampu menghasilkan 40 persen lebih banyak token per megawatt dibandingkan sistem berbasis GPU terkemuka. Klaim ini menempatkan efisiensi daya sebagai poros utama persaingan chip AI di masa depan, seiring kebutuhan komputasi AI yang terus meningkat di pusat data.
Dalam konfigurasi penuh 96 akselerator, Maia 300 diklaim mampu mencapai hingga 7x rack-scale token throughput dibandingkan Maia 200. Peningkatan efisiensi inilah yang menurut Microsoft akan memungkinkan perusahaan mengandalkan chip AI buatannya sendiri dalam waktu dekat. “Kami akan menskalakan keluarga Azure Maia ke deployment multi-gigawatt mulai 2027, menjadikan Maia sebagai sistem inferensi AI utama untuk produk dan layanan Microsoft,” ujar Guthrie.
Maia 300 merupakan penerus Maia 200 yang baru diumumkan pada Januari. Maia 200 sendiri disebut sudah berjalan pada beban kerja AI produksi di seluruh Microsoft, termasuk Microsoft Copilot, GitHub Copilot, Microsoft Foundry, dan model AI milik Microsoft. “Maia 200 adalah infrastruktur AI dengan performa terbaik di fleet kami, diukur dengan metrik dunia nyata untuk layanan AI,” kata Guthrie. Ia menambahkan bahwa Maia 300 adalah sistem AI lengkap yang dirancang untuk tipe beban kerja AI baru yang muncul saat ini: penalaran konteks panjang, pengalaman percakapan yang sensitif latensi, dan tugas agentic multi-langkah yang berkelanjutan.
Arsitektur Chiplet dan Spesifikasi Teknis Maia 300
Untuk mendapatkan efisiensi yang menjadi fokus utama, Microsoft menggunakan arsitektur chiplet baru. Dibangun pada process node N2P milik TSMC, arsitektur Maia 300 memisahkan fungsi komputasi, memory controller, dan I/O. “Ini meningkatkan area silikon yang dikhususkan untuk performa komputasi dan memungkinkan setiap fungsi menggunakan teknologi yang paling sesuai dengan perannya,” ujar tim Azure hardware and infrastructure Microsoft.
Dari sisi memori, Maia 300 menggunakan delapan stack HBM4 dengan klaim peak bandwidth 18TB/s dalam thermal design power 950W. Microsoft menyebut software khusus dapat memanfaatkan on-chip SRAM sebagai scratchpad untuk mengurangi tekanan pada HBM saat beban kerja berat. Arsitektur multi-chiplet ini juga memisahkan compute, memory-controller, dan input/output, dengan compute chiplet dibangun menggunakan proses N2P TSMC.
Dukungan untuk format presisi rendah, termasuk MXFP4 yang ditingkatkan, diklaim dapat mengurangi kebutuhan memori dan bandwidth. Hal ini membantu sistem menjalankan context window yang lebih besar dan meningkatkan throughput dalam power envelope yang sama. Networking dirancang beroperasi sebagai bagian dari dataflow sistem, bukan lapisan terpisah. Maia 300 menggunakan koneksi high-bandwidth antar akselerator untuk tensor parallelism, bersama transport AI kustom berbasis infrastruktur Ethernet. Pendekatan ini diklaim dapat diskalakan dari satu rack hingga deployment pusat data.
Satu rack Maia 300 akan berisi 96 akselerator dalam power envelope 167kW, dengan kapasitas HBM 27,6TB dan aggregate HBM bandwidth 1,7 petabyte per detik. Microsoft menyatakan kepadatan tersebut memungkinkan penyajian lebih banyak interaksi AI simultan dan beban kerja lebih besar dari setiap rack. Arsitektur “inference-first” Maia 300 dirancang meningkatkan performa dengan mengurangi perpindahan data dan penggunaan sumber daya komputasi, memori, serta networking yang lebih efisien. Software-defined dataflow architecture yang dikombinasikan dengan AI-assisted kernel optimization menjaga data tetap dekat dengan bagian sistem yang membutuhkannya.
Dampak ke Produk Microsoft dan Ekosistem AI
Maia 300 disebut sebagai bagian kunci dari pengembangan model AI Microsoft sendiri dan dapat membantu perusahaan mengejar Google DeepMind, OpenAI, dan Anthropic. “Kami harus bekerja di seluruh stack, sampai ke silikon,” kata CEO Microsoft AI Mustafa Suleyman. “Pada skala itu kami membutuhkan platform yang kami miliki, dan yang kami co-design dengan model kami. Itulah mengapa menjalankan model Microsoft AI di atas chip Maia menjadi fokus kritis bagi tim kami.”
Microsoft memperkirakan Maia 300 akan mendukung generasi baru AI di seluruh produk dan layanannya, mulai dari agentic coding di GitHub hingga large-scale model serving melalui Microsoft Foundry. Perusahaan juga mengharapkan peningkatan inferensi dan generasi data untuk tim Microsoft AI, serta peningkatan pada Copilot dan Cowork, termasuk produk individual seperti Microsoft Teams. Peningkatan ini berpotensi membuat penggunaan Teams, Copilot, dan Cowork menjadi lebih baik dari sebelumnya.
Maia 200 yang menjadi basis pengembangan disebut menghasilkan hingga 1,7 kali lebih banyak token per watt dibandingkan infrastruktur GPU terkemuka untuk fitur AI bawaan di Teams, Copilot, dan Cowork. GitHub Copilot dan Microsoft Foundry diperkirakan menyusul pada akhir tahun ini. Langkah Microsoft memperkuat posisi chip custom sebagai strategi jangka panjang dalam mengendalikan biaya dan efisiensi beban kerja AI di cloud, sejalan dengan arah industri yang semakin serius mengembangkan silikon sendiri untuk kebutuhan inferensi.
Dengan jadwal produksi pada 2027, Maia 300 menandai babak baru persaingan infrastruktur AI. Microsoft tidak hanya memposisikan Maia sebagai pengganti GPU pihak ketiga, tetapi sebagai sistem AI lengkap yang dirancang untuk tipe beban kerja yang belum banyak ditangani chip general-purpose. Bagi pengguna layanan Microsoft, implikasi paling langsung adalah potensi pengalaman Copilot, Teams, dan Cowork yang lebih responsif serta efisien, seiring kapasitas inferensi yang lebih besar dan hemat daya di pusat data Azure.
Komentar
Belum ada komentar.