Telset.id – Google terpaksa membatasi pasokan kapasitas komputasi Gemini AI kepada Meta karena keterbatasan infrastruktur. Langkah ini menunjukkan bahwa layanan cloud AI bukanlah sumber daya tanpa batas, bahkan bagi perusahaan teknologi terbesar sekalipun.
Menurut laporan Financial Times, Google telah memberi tahu Meta pada Maret lalu bahwa mereka tidak dapat memasok seluruh kapasitas komputasi Gemini yang ingin dibeli Meta. Selama ini, Meta membayar akses ke model AI Google melalui layanan cloud dan API, menggunakan Gemini untuk tugas internal seperti moderasi konten dan deteksi penipuan.
Dalam tugas-tugas tersebut, Gemini terbukti mengungguli model Llama milik Meta sendiri. Ketika Google tidak dapat memenuhi permintaan penuh, kekurangan pasokan ini menunda beberapa proyek AI internal Meta. Akibatnya, Meta meminta karyawannya untuk menggunakan token AI dengan lebih hati-hati.
Fenomena ini menjadi ironi mengingat anggaran AI Meta yang mencapai sembilan digit angka. Sebuah perusahaan dengan sumber daya finansial melimpah justru harus menghadapi pembatasan dari penyedia cloud-nya sendiri.
Krisis Kapasitas Komputasi Global
Google Cloud menghasilkan pendapatan sekitar $20 miliar dalam satu kuartal. Namun, CEO Sundar Pichai secara terbuka mengakui bahwa keterbatasan komputasi menghambat pertumbuhan divisi tersebut. Bahkan, order backlog Google Cloud telah membengkak hingga lebih dari $460 miliar.
Hambatan utamanya bukanlah uang atau permintaan, melainkan pasokan fisik chip, memori, dan daya listrik. Untuk mengatasi masalah ini, Google bahkan membayar SpaceX hampir satu miliar dolar per bulan untuk meminjam kapasitas GPU sebagai solusi sementara.
Respon Meta terhadap situasi ini cukup strategis. Perusahaan induk Facebook tersebut membangun model internal bernama Muse Spark dan menginvestasikan lebih dari $100 miliar untuk pusat data sendiri. Mereka tidak beralih ke solusi AI lokal, melainkan memilih membangun infrastruktur mandiri.
Mengapa AI Lokal Semakin Relevan
Meskipun masalah Meta berskala industri, episode ini membuktikan bahwa cloud AI bukanlah keran tanpa batas. Hal ini mendorong pertimbangan untuk menggunakan AI lokal yang berjalan di perangkat pengguna.
Privasi menjadi alasan utama. Saat model berjalan secara lokal, data pengguna tidak pernah meninggalkan perangkat. Untuk informasi kesehatan, keuangan, dokumen hukum, atau data sensitif lainnya, ini menjadi perbedaan signifikan. Di beberapa sektor yang diatur regulasi, penggunaan AI lokal bahkan menjadi keharusan.
Kecepatan untuk tugas kecil juga menjadi keunggulan. Perjalanan data bolak-balik ke cloud menambah latensi yang terasa. Untuk tugas repetitif yang cepat, model on-device dapat mulai merespons hampir seketika.
Kemampuan bekerja offline menjadi nilai tambah lainnya. Di pesawat, zona mati sinyal, atau saat pemadaman, model lokal tetap berfungsi. Sementara AI berbasis cloud tidak bisa beroperasi tanpa koneksi internet.
Biaya yang dapat diprediksi juga menjadi pertimbangan. Jika pengguna menjalankan tugas yang sama ribuan kali, memiliki perangkat keras sendiri bisa lebih murah dalam jangka panjang dibandingkan membayar per token selamanya.
Meskipun model AI lokal saat ini belum bisa menandingi sistem cloud terbesar dalam penalaran kompleks, untuk tugas merangkum dokumen, menulis ulang teks, menyusun kode, dan menjawab pertanyaan sehari-hari, performanya sudah cukup baik. Dengan kehadiran neural processing units (NPU) di PC AI terbaru, semakin banyak pekerjaan yang bisa dilakukan langsung di laptop.
Dampak pada Harga Perangkat Keras
Namun, ada konsekuensi yang perlu diperhatikan. Kelangkaan yang sama yang membatasi Meta juga membuat perangkat keras AI lokal semakin mahal. Cloud dan AI lokal mengambil sumber daya dari pasar yang sama, termasuk chip, memori bandwidth tinggi, dan DRAM.
Seiring melonjaknya permintaan AI, produsen telah mengalihkan produksi ke komponen pusat data, dan harga konsumen pun mengikuti. Inilah alasan utama mengapa laptop, upgrade memori, dan bahkan konsol game mengalami kenaikan harga tahun ini.
Jadi, meskipun AI lokal adalah cara nyata untuk menghindari pembatasan cloud, pengguna mungkin harus membayar lebih mahal di awal. Pertukaran ini layak menjadi bagian dari pertimbangan.
Keterbatasan lain yang jujur adalah kemampuan penalaran. Jika pengguna membutuhkan model terpintar untuk masalah yang benar-benar sulit, cloud masih menjadi pemenang, dan perbedaannya cukup signifikan. AI lokal berfungsi sebagai pelengkap, bukan pengganti.
Situasi ini mengingatkan bahwa industri AI masih menghadapi tantangan infrastruktur yang serius. Bahkan perusahaan sekelas Google dan Meta pun harus berkompromi dengan keterbatasan pasokan komputasi. Untuk pengguna biasa, memahami batasan ini penting agar bisa memilih solusi AI yang tepat sesuai kebutuhan dan anggaran.
Komentar
Belum ada komentar.