Telset.id – Nvidia kini tidak lagi hanya dianggap sebagai pemasok GPU untuk kecerdasan buatan (AI). Setelah laporan keuangan perusahaan pada Rabu lalu, investor mulai menyadari bahwa keunggulan Nvidia jauh melampaui sekadar GPU, terutama dalam sistem orkestrasi data di pusat data berskala besar.
Selama beberapa tahun pertama ledakan AI, Nvidia menjadi satu-satunya sumber GPU tercanggih yang menguntungkan industri. Namun, dalam beberapa tahun terakhir, perusahaan hyperscaler seperti Amazon dan Google mulai membangun chip mereka sendiri. Hal ini memunculkan pertanyaan tentang seberapa tahan lama keunggulan Nvidia di tengah meningkatnya kompetisi.
Setelah kapitalisasi pasar Nvidia tumbuh 10 kali lipat antara awal 2023 dan pertengahan 2025, saham perusahaan mengalami lintasan lebih moderat selama setahun terakhir. Kekhawatiran tentang kompetisi GPU menjadi pemicu utama perlambatan tersebut.
Arsitektur Vera Rubin dan Fokus pada Orkestrasi
Nvidia saat ini tengah meluncurkan arsitektur Vera Rubin yang memasangkan GPU Rubin dengan berbagai unit lain, termasuk CPU Vera, akselerator inferensi Groq 3 LPX, serta rak serupa untuk penyimpanan dan jaringan. Sistem-sistem ini sangat terspesialisasi, namun alih-alih memproses token, mereka memastikan semua komponen di luar GPU bekerja seefisien mungkin.
Jika GPU diibaratkan sebagai mesin, maka komponen-komponen tersebut adalah bagian lain dari mobil. CPU Vera secara khusus berfokus pada masalah orkestrasi data. Jason Hardy, VP of storage technology Nvidia, menjelaskan bahwa Vera penting karena kapasitas memori dalam satu server atau platform komputasi terbatas.
Seiring pusat data meningkatkan daya komputasi, kapasitas memori juga ikut meningkat. Perusahaan seperti Micron diuntungkan dalam gelombang kedua ledakan infrastruktur ini. Namun, mengirimkan data ke GPU pada waktu yang tepat bukanlah hal mudah. Perusahaan yang berupaya menurunkan tokens-per-watt semakin menyadari pentingnya pengaturan lalu lintas data semacam ini.
Hardy mengungkapkan adanya peningkatan hingga 3x lipat dalam operasi tertentu berkat akselerasi CPU Vera. “Jadi sekarang kami dapat menggunakan flash kami secara maksimal, karena kami bisa mendapatkan semua performa itu tanpa hambatan,” ujarnya.
Baca Juga:
Pendekatan Berbeda dari OpenAI
Masalah serupa juga muncul di luar ekosistem Nvidia. Ketika OpenAI mengembangkan chip Jalapeño, fokus utamanya adalah menghindari tantangan ini dengan meminimalkan jumlah data yang perlu dipindahkan. Perusahaan menyatakan dalam blog post bahwa Jalapeño dirancang untuk meminimalkan perpindahan data dan keterlambatan komunikasi.
“Domainnya yang besar memungkinkan seluruh beban kerja tetap berada dalam satu sistem yang terhubung, meminimalkan perpindahan data dan membantu permintaan tetap cepat dan efisien dari awal hingga akhir,” demikian pernyataan OpenAI. Pendekatan ini berbeda karena menghindari perpindahan data sepenuhnya dengan menjalankan beban kerja dalam satu chip terintegrasi.
Meskipun berbeda, logika keseluruhannya sama: meningkatkan efisiensi dengan kontrol lalu lintas yang lebih cerdas, bukan sekadar menambah siklus prosesor. Hal ini membuka lapisan infrastruktur baru yang menjadi arena kompetisi antar perusahaan.
Fokus baru pada orkestrasi data ini tidak otomatis menjadi kemenangan bagi Nvidia. Perusahaan tetap harus bersaing dengan pembuat chip saingan dan hyperscaler seperti halnya di pasar GPU. Namun, kompetisi telah bergeser ke lapisan baru di mana membangun GPU saingan menjadi kurang penting dibandingkan kemampuan membuat seluruh sistem bekerja efisien.
Setidaknya pada tahap awal, Nvidia tampak memiliki keunggulan yang signifikan. Perusahaan telah membangun sebagian besar perangkat keras tercanggih yang dibutuhkan untuk menangani kompleksitas orkestrasi saat komputasi AI tumbuh ke skala gigawatt.
Bagi investor dan pelaku industri, pergeseran narasi ini menjadi sinyal penting. Keunggulan Nvidia tidak lagi hanya diukur dari kemampuan GPU-nya, tetapi juga dari ekosistem sistem pendukung yang membuat seluruh infrastruktur AI bekerja optimal. Akuisisi Hugging Face yang dikabarkan senilai Rp 208 triliun juga menunjukkan ambisi Nvidia memperluas pengaruhnya di ekosistem AI.
Meskipun komputasi sering dianggap sebagai komoditas, mengoperasikan pusat data berskala mega pada efisiensi puncak tetap menjadi tantangan besar. Semakin besar dan cepat deployment yang dilakukan, semakin besar pula tantangan tersebut. Nvidia terlihat siap menghadapi tantangan ini dengan program AI Compute Partnership yang tetap berjalan meski sempat ada kabar sebaliknya.
Langkah Nvidia membangun sistem orkestrasi data yang canggih menunjukkan bahwa persaingan di industri AI tidak lagi berhenti pada siapa yang membuat chip tercepat. Pertanyaannya kini bergeser ke siapa yang mampu membuat seluruh sistem bekerja paling efisien. Pengaruh politik Nvidia di Washington juga terus diperkuat melalui PAC karyawan, menunjukkan keseriusan perusahaan dalam menjaga posisinya.
Komentar
Belum ada komentar.