Telset.id – Amazon Web Services (AWS) tengah membatasi penggunaan instance EC2 secara internal oleh para insinyurnya. Kebijakan ini diambil untuk memastikan perusahaan memiliki kapasitas CPU yang cukup untuk memenuhi permintaan pelanggan di tengah lonjakan kebutuhan komputasi data center yang belum pernah terjadi sebelumnya.
Menurut laporan The Information, pada bulan Mei perusahaan dikabarkan telah bertemu dengan para insinyur dan meminta mereka untuk mengurangi pemborosan CPU. Langkah ini diambil seiring dengan meningkatnya permintaan CPU di pusat data, di mana rasio tradisional GPU terhadap CPU yang biasanya delapan-band-satu atau empat-band-satu kini mendekati titik keseimbangan atau paritas.
EC2 sendiri merupakan bagian besar dari infrastruktur internet modern dan juga digunakan dalam berbagai deployment privat. Sebelumnya, para insinyur AWS dapat membuat instance mereka sendiri untuk keperluan pengembangan dengan memanfaatkan utilisasi CPU yang relatif rendah pada infrastruktur web untuk menggunakan lebih banyak mesin virtual. Namun kini, mereka mengaku harus menunggu berhari-hari untuk mendapatkan akses, padahal sebelumnya bisa didapatkan dalam hitungan jam.
Salah seorang insinyur yang berbicara kepada The Information mengungkapkan bahwa mereka belum pernah menunggu selama ini untuk mendapatkan sebuah instance, bahkan setelah bekerja di Amazon selama beberapa tahun. Hal ini menunjukkan betapa ketatnya kondisi kapasitas CPU yang sedang dihadapi perusahaan.
Amazon sendiri menggunakan beberapa jenis CPU yang berbeda dalam instance EC2, termasuk opsi dari AMD dan Intel, serta chip Graviton5 yang relatif baru. Graviton5 merupakan CPU paling bertenaga yang pernah dimiliki Amazon, menggunakan arsitektur berbasis Arm yang sejalan dengan CPU Vera milik Nvidia dan AGI dari Arm.
Akar Masalah: Era AI Agent
Peningkatan permintaan CPU ini datang seiring dengan maraknya AI agent, sebuah paradigma baru dalam produktivitas yang bahkan perusahaan sebesar Amazon pun kesulitan menghadapinya. Bulan lalu, misalnya, sebuah coding agent berhasil menghabiskan biaya token sebesar USD 1,8 juta di Amazon, melampaui anggaran pengembangan hingga 860 persen.
Sebagian besar infrastruktur AI yang ada saat ini dirancang untuk menangani inferensi, sebuah beban kerja yang dipercepat oleh GPU. Dengan rasio empat-band-satu, CPU berfungsi sebagai cara untuk memberi makan GPU, dan tidak lebih dari itu. Namun, beban kerja agentic jauh lebih kompleks. Mereka sering melibatkan panggilan alat atau tool calls yang berjalan di CPU, serta orkestrasi inferensi yang lebih kompleks di GPU. Hal inilah yang membawa CPU menjadi pusat perhatian di era agentic.
Intel, AMD, dan perusahaan lainnya juga telah menggemakan apa yang kita dengar dari perusahaan memori dan penyimpanan selama beberapa bulan terakhir: permintaan CPU begitu tinggi sehingga sebagian besar perusahaan akan menerima apa pun yang bisa mereka dapatkan. Para pemain besar pun memanfaatkan permintaan tersebut untuk mengembangkan produk-produk terbaru mereka.
AMD baru saja meluncurkan jajaran CPU Zen 6 ‘Venice’ untuk pusat data, menandai pertama kalinya AMD meluncurkan arsitektur baru di pusat data sebelum pasar konsumen dalam beberapa dekade. Sementara itu, Nvidia juga telah mengalihkan pesan pemasarannya dari akselerator ke CPU Vera yang baru, berupaya untuk mendapatkan pijakan di pasar infrastruktur AI agentic yang sedang berkembang.
Dampak pada Layanan Spot Instance
Meskipun Amazon bergulat dengan kapasitas CPU di antara insinyur internal dan pelanggan eksternal, The Information melaporkan bahwa kekurangan ini sebagian besar merupakan masalah untuk spot instance. Seorang konsultan yang berbicara kepada outlet tersebut mengatakan bahwa kapasitas yang dikontrak tidak mengalami kekurangan apa pun.
Artinya, pelanggan yang menggunakan kapasitas terdedikasi atau terikat kontrak jangka panjang tidak terdampak secara signifikan. Namun, pengguna spot instance yang biasanya memanfaatkan harga lebih murah dengan fleksibilitas lebih besar, kini harus menghadapi keterbatasan ketersediaan yang cukup serius.
Kondisi ini menjadi sinyal kuat bagi industri bahwa transisi menuju komputasi agentic tidak hanya berdampak pada kebutuhan GPU, tetapi juga mengubah secara fundamental kebutuhan infrastruktur CPU di pusat data skala besar. Amazon, sebagai salah satu penyedia cloud terbesar di dunia, menjadi barometer pertama yang merasakan dampak langsung dari pergeseran paradigma ini.
Langkah Amazon membatasi penggunaan internal ini juga menunjukkan prioritas perusahaan untuk menjaga kepuasan pelanggan di tengah situasi yang menantang. Dengan memastikan kapasitas CPU tersedia untuk kebutuhan komersial, Amazon berupaya mempertahankan keandalannya sebagai penyedia infrastruktur cloud utama di tengah tekanan permintaan yang belum pernah terjadi sebelumnya.
Bagi perusahaan yang bergantung pada layanan AWS, perkembangan ini menjadi pengingat bahwa perencanaan kapasitas komputasi perlu dilakukan dengan lebih cermat. Sementara bagi industri secara keseluruhan, kelangkaan CPU ini menegaskan bahwa era AI agent telah membawa perubahan fundamental dalam cara infrastruktur komputasi dirancang dan dialokasikan.
Ke depan, persaingan di pasar CPU data center diprediksi akan semakin ketat. AMD dengan arsitektur Zen 6-nya dan Nvidia dengan CPU Vera-nya sama-sama berlomba untuk menguasai pasar yang sedang berkembang ini. Amazon sendiri dengan Graviton5-nya menunjukkan komitmen untuk mengembangkan silikon in-house yang mampu bersaing dengan pemain mapan seperti Intel dan AMD.
Kondisi kelangkaan ini juga menjadi pelajaran penting tentang bagaimana adopsi teknologi baru dapat memicu konsekuensi yang tidak terduga pada infrastruktur yang ada. Ketika industri berlomba mengadopsi AI agent untuk meningkatkan produktivitas, kebutuhan mendasar akan CPU yang selama ini dianggap sepele, kini menjadi komoditas yang paling diperebutkan.
Komentar
Belum ada komentar.