📑 Daftar Isi

Ilustrasi aplikasi LinkedIn dengan strategi efisiensi GPU untuk data center AI

LinkedIn Tahan Ekspansi Data Center AI demi Efisiensi GPU

Penulis:Nur Hamzah
Terbit:
Diperbarui:
⏱️4 menit membaca
Bagikan:
  • LinkedIn tidak akan memperluas data center AI pada tahun fiskal mendatang
  • Investasi GPU dijaga tetap datar dan kapasitas komputasi dipertahankan
  • Efisiensi GPU berhasil digandakan dalam enam bulan melalui akumulasi perbaikan
  • Erran Berger, Engineering CTO, menyatakan posisi ini tidak biasa di industri
  • Keputusan berbeda dengan Microsoft yang belanja modal USD 41 miliar per kuartal
  • Proyek migrasi Azure Blueshift dibatalkan pada 2022, LinkedIn fokus infrastruktur sendiri
  • Raghu Hiremagalur menyebut kepemilikan full-stack memungkinkan efisiensi berkelanjutan
  • Biaya per kueri meningkat dan data berlipat ganda tiap tahun, dinilai tidak berkelanjutan
  • Pendekatan ini kontras dengan belanja USD 600-700 miliar hyperscaler AS

Telset.id – LinkedIn memutuskan untuk tidak memperluas data center AI secara agresif pada tahun fiskal mendatang, dengan menjaga investasi GPU tetap datar dan mempertahankan kapasitas komputasi serta penyimpanan yang ada. Keputusan ini diambil bukan karena sekadar menahan diri, melainkan karena perusahaan berhasil menggandakan efisiensi GPU yang sudah dimiliki dalam enam bulan terakhir.

Erran Berger, Engineering CTO LinkedIn, menyatakan kepada Wired bahwa tujuan perusahaan adalah menjaga jejak komputasi tetap datar atau mendekati datar sambil tetap meluncurkan fitur-fitur yang membutuhkan komputasi besar ke produksi. Langkah ini diakui sebagai posisi yang tidak biasa untuk diambil secara publik di tengah industri yang sedang gencar membangun infrastruktur AI.

Keputusan LinkedIn ini menjadi kontras menarik dengan induk perusahaannya, Microsoft, yang baru saja menutup tahun fiskal dengan melaporkan belanja modal sebesar USD 41 miliar dalam satu kuartal terakhir saja. Microsoft menambahkan 31 pusat data pada kuartal tersebut dan 88 pusat data sepanjang tahun, serta diperkirakan akan membelanjakan lebih dari USD 50 miliar pada kuartal berjalan.

LinkedIn app on an iPhone

Perbedaan pendekatan ini semakin menarik karena LinkedIn telah sepenuhnya dimiliki oleh Microsoft sejak akuisisi Desember 2016 senilai USD 26,2 miliar. Meskipun menjadi bagian dari raksasa perangkat lunak tersebut, strategi LinkedIn tampak sangat berbeda dari perusahaan yang baru-baru ini melihat sahamnya melonjak karena belanja AI mulai menunjukkan hasil yang terukur.

Strategi Efisiensi alih-alih Ekspansi

Kunci dari kebijakan ini berakar pada keputusan yang sebagian besar pemberitaan saat itu anggap sebagai kemunduran. LinkedIn mengumumkan pada 2019 bahwa mereka akan memindahkan infrastruktur ke Azure di bawah proyek berkode nama Blueshift. Namun pada 2022, rencana tersebut diam-diam dibatalkan dengan alasan tekanan permintaan Azure sendiri.

LinkedIn kemudian berkomitmen pada pusat datanya sendiri di Oregon, Texas, dan Virginia. Raghu Hiremagalur, CTO Infrastruktur LinkedIn, kini berargumen bahwa memiliki seluruh tumpukan teknologi justru membuat rencana tahun ini layak dilakukan karena perusahaan dapat menginstrumentasi setiap lapisan dan memperlakukan efisiensi sebagai investasi berkelanjutan, bukan sekadar latihan pemangkasan biaya satu kali.

“Saya benar-benar ingin menekankan bahwa untuk perusahaan sebesar kami, mengatakan satu tahun penuh kami akan melakukan ini tanpa penambahan penyimpanan dan komputasi bukanlah hal kecil, tetapi butuh banyak kerja untuk sampai ke sana,” ujar Hiremagalur.

Data centre.

Pekerjaan efisiensi itu sendiri digambarkan sebagai akumulasi, bukan terobosan tunggal: pemanfaatan GPU yang lebih baik, alokasi beban kerja yang lebih cerdas, distilasi model besar menjadi model yang lebih kecil, serta memikirkan ulang pembagian kerja di seluruh pelatihan, inferensi, penyimpanan, dan desain sistem. Hiremagalur juga menyebutkan bahwa biaya melayani setiap kueri terus meningkat sementara data yang disimpan berlipat ganda setiap tahun, yang ia nilai tidak berkelanjutan.

Framing ini lebih mengungkapkan bahwa dorongan efisiensi LinkedIn lebih mirip keputusan perusahaan yang melihat kurva biayanya sendiri dan memutuskan harus membengkokkannya, daripada sekadar pilihan strategis tentang pasar AI.

Perlu dicatat bahwa belanja Microsoft sebagian besar didorong oleh permintaan pelanggan Azure, terutama kapasitas yang dikontrak untuk OpenAI, bukan oleh beban kerja produk internal. Sementara komputasi LinkedIn hanyalah bagian kecil dibandingkan dengan itu. Meski demikian, pendekatan LinkedIn menawarkan perspektif alternatif yang menarik ketika platform konsumen besar dapat menambahkan fitur AI generatif selama setahun tanpa menambah perangkat keras.

Pendekatan ini berbanding terbalik dengan asumsi umum bahwa fitur AI dan pertumbuhan kapasitas tidak dapat dipisahkan. Empat hyperscaler terbesar AS telah berkomitmen untuk belanja modal sekitar USD 600 miliar hingga USD 700 miliar untuk tahun kalender ini. Hampir semua insentif di industri saat ini mengarah pada pengumuman kapasitas alih-alih efisiensi, menjadikan LinkedIn sebagai pengecualian yang menarik di tengah dominasi pengumuman belanja modal harian.

A data center in a blue light

Pertanyaan yang lebih berguna adalah apakah pendekatan ini dapat bertahan. Jika berhasil, argumen bahwa ambisi produk AI membutuhkan pertumbuhan perangkat keras yang proporsional akan melemah secara signifikan. Jika tidak, ini akan terbaca sebagai dorongan efisiensi yang bertemu dengan kebutuhan perangkat keras dari peta jalan produk nyata tetapi gagal pada saat belanja AI semakin diawasi ketat.

Keputusan LinkedIn ini juga relevan dengan perkembangan lain di platform tersebut, termasuk kebijakan perusahaan yang baru-baru ini mengizinkan pengguna menandai konten yang mereka anggap sebagai ‘AI slop’. Sementara itu, data LinkedIn juga menunjukkan AI bukan penyebab turunnya rekrutmen, meski ada peringatan penting di baliknya.

Strategi efisiensi ini menunjukkan bahwa perusahaan sebesar LinkedIn dapat mengambil jalan berbeda dalam perlombaan AI. Alih-alih ikut serta dalam perlombaan belanja infrastruktur, mereka memilih untuk memaksimalkan apa yang sudah dimiliki. Pendekatan ini layak diawasi karena dapat menjadi model alternatif bagi perusahaan lain yang ingin mengadopsi AI tanpa harus mengeluarkan belanja modal besar.

Keputusan LinkedIn untuk menahan ekspansi data center AI juga menjadi sinyal bahwa efisiensi dapat menjadi strategi kompetitif. Di tengah industri yang berlomba mengumumkan kapasitas baru setiap hari, kemampuan untuk melakukan lebih banyak dengan sumber daya yang sama bisa menjadi keunggulan tersendiri. Platform dengan lebih dari satu miliar pengguna ini kini menjadi studi kasus menarik tentang bagaimana perusahaan besar dapat menyeimbangkan ambisi AI dengan disiplin biaya.

Bagi pengguna LinkedIn, keputusan ini berarti fitur-fitur AI baru tetap akan hadir tanpa harus khawatir platform akan mengalami gangguan akibat ekspansi infrastruktur yang terlalu cepat. Perusahaan juga baru-baru ini merilis fitur Vibe Coding di profil sebagai bagian dari pengembangan berbasis AI mereka.

Ikuti Telset.id di Google NewsFollow

Komentar

Belum ada komentar.