Telset.id – Kekhawatiran baru melanda industri kecerdasan buatan (AI). Satya Nadella, CEO Microsoft, secara terbuka memperingatkan perusahaan agar waspada terhadap risiko besar yang mengintai di balik penggunaan model AI proprietary. Risiko tersebut adalah kehilangan data bisnis paling sensitif yang secara tidak sadar diserahkan kepada pembuat model.
Dalam sebuah blog post yang diterbitkan pada hari Minggu, Nadella bergabung dengan suara-suara kritis lainnya seperti VC Jason Calacanis dan CEO Palantir Alex Karp. Ia menyoroti bahwa pengguna AI, atau yang ia sebut sebagai “pembeli”, sebenarnya membayar dua kali lipat. Mereka membayar untuk penggunaan token AI, namun secara tidak sadar juga menyerahkan data berharga milik mereka.
“Anda pada dasarnya membayar kecerdasan dua kali, sekali dengan uang, dan sekali lagi dengan sesuatu yang lebih berharga: pengetahuan proprietary yang harus Anda ungkapkan untuk membuat kecerdasan itu berguna,” tulis Nadella. Ia menambahkan bahwa semakin baik kinerja model yang diinginkan, semakin banyak pengetahuan perusahaan yang harus diberikan.
Risiko Membocorkan Rahasia Bisnis ke Model AI
Nadella dengan tegas menyebut situasi ini sebagai ancaman serius. Menurutnya, perusahaan secara tidak sadar sedang mengajarkan model AI tentang nuansa bisnis mereka sendiri. Ia menjelaskan bahwa model belajar dari “exhaust”, yaitu prompt yang ditulis pengguna, alat yang digunakan agen, dan terutama koreksi yang dilakukan saat model salah.
“Setiap koreksi disuling menjadi pengetahuan institusional,” tulis Nadella. Ia menekankan bahwa ini adalah jenis pengetahuan yang tidak akan pernah bisa dibeli oleh pesaing, namun perusahaan justru menyerahkannya begitu saja. Pernyataan ini menjadi kritik tajam terhadap praktik yang dianggap membahayakan keamanan data perusahaan.
Sebelumnya, Kritik Satya Nadella soal dampak AI terhadap pekerjaan juga sempat mencuri perhatian. Kini, ia kembali menyuarakan keprihatinan yang lebih fundamental terkait kepemilikan data dan pengetahuan bisnis.
Solusi Nadella: Distilasi Model dan Kepemilikan Data
Nadella mengusulkan solusi yang menarik. Ia berargumen bahwa jika perusahaan AI bisa bebas mengeruk data dari internet untuk melatih model mereka, maka sudah seharusnya perusahaan pengguna juga bisa mempelajari atau “mendistilasi” model tersebut sebagai imbalan. “Distilasi” adalah praktik menggunakan output model untuk mempelajari cara kerjanya dan melatih model baru yang lebih murah.
Praktik ini sebelumnya menuai kontroversi. Pada bulan Februari, Anthropic menuduh model open source asal China mengirimkan jutaan prompt ke Claude untuk meningkatkan model mereka sendiri. Namun, Nadella berpendapat bahwa pembuat model tidak bisa bersikap munafik. Tidak adil jika mereka bebas berlatih dengan data dunia, namun membatasi pihak lain melakukan hal yang sama terhadap model mereka.
“Sementara inovasi besar dari penyedia model yang memiliki hak penggunaan wajar untuk melatih model pada data publik itu diperlukan, saya merasa ironis bahwa status quo-nya kemudian memberlakukan persyaratan restriktif pada distilasi,” tulis Nadella. Ia sangat prihatin ketika pembuat model “memiliki hak untuk belajar dari data interaksi dan penggunaan pelanggan.”
Sebagai CEO penyedia cloud raksasa, solusi yang ditawarkan Nadella tidak mengejutkan. Ia mendorong perusahaan untuk “mempertahankan kepemilikan” data mereka, termasuk prompt dan feedback. Ia menyarankan perusahaan membangun “lingkungan pembelajaran proprietary” di cloud, yang secara kebetulan bisa berarti menggunakan cloud Microsoft, Azure.
Baca Juga:
Nadella juga merekomendasikan perusahaan untuk membangun “orchestration layers”. Ini adalah cara untuk dengan mudah beralih antar model AI dari berbagai penyedia, tanpa terikat pada satu model saja. Alat seperti AI “gateways” yang memungkinkan hal ini kini semakin populer.
Gelombang Baru: Open Source dan Model On-Premise
Meskipun Nadella tidak secara eksplisit menyebut kata “open source” sebagai metode untuk mempertahankan kepemilikan, hal ini menjadi subteks yang jelas. Perusahaan besar yang masih memiliki pusat data sendiri mulai beralih ke model open source yang diinstal di server mereka sendiri (on-premise).
Idit Levine, pendiri dan CEO Solo.io, mengkonfirmasi tren ini. Perusahaannya yang membuat software networking dan keamanan untuk mengelola sistem AI melihat langsung pergeseran ini pada pelanggannya. Setelah bereksperimen dengan model proprietary, mereka mulai bertanya: “Bisakah saya mengambil model open source dan menjalankannya secara on-prem? Model itu akan melakukan hampir 90% dari apa yang dilakukan model besar. Biayanya jauh lebih murah,” kata Levine kepada TechCrunch.
“Mereka memahami itu, dan mereka bisa mengontrolnya,” tambah Levine. Teknologi Solo.io terpilih tahun lalu untuk mendukung proyek Agentgateway milik Linux Foundation. Perusahaan seperti T-Mobile, ADP, dan SAP menjadi pelanggannya. Levine melihat perusahaan semakin banyak menginstal model open source on-premise dan menganggapnya sebagai gelombang besar berikutnya dalam penggunaan AI enterprise.
Tren serupa juga terlihat di Vercel dan OpenRouter. Vercel, platform untuk membangun dan menghosting website yang kini memiliki alat perpindahan model AI, melihat lonjakan lalu lintas ke model open source. OpenRouter, perusahaan yang membantu pengembang merutekan permintaan ke berbagai model AI, juga mengalami hal serupa. Faktanya, model open source menyumbang 29% dari semua lalu lintas yang dirutekan melalui gateway Vercel bulan lalu.
Implikasi untuk Masa Depan AI Enterprise
Peringatan dari CEO Microsoft ini menjadi sinyal kuat bagi industri. Dengan CEO dari perusahaan yang telah berinvestasi di OpenAI dan Anthropic kini secara terbuka mendorong perusahaan untuk berhati-hati menggunakan model proprietary, tren peralihan ke model open source diprediksi akan terus meningkat.
“Dalam mengonsumsi kecerdasan, Anda menciptakan kecerdasan. Dan apa yang Anda ciptakan harus menjadi milik Anda,” tulis Nadella. Pernyataan ini menegaskan bahwa perusahaan harus memiliki kendali penuh atas data dan pengetahuan yang mereka hasilkan, bukan menyerahkannya kepada penyedia model AI.
Peringatan ini menjadi relevan terutama bagi perusahaan yang mulai mengadopsi AI secara masif. Mereka harus mempertimbangkan dengan matang risiko kehilangan data bisnis sensitif di balik kemudahan yang ditawarkan model proprietary. Solusi seperti model open source on-premise atau penggunaan orchestration layers bisa menjadi alternatif yang lebih aman.
Keputusan perusahaan dalam memilih model AI ke depannya tidak hanya soal performa dan biaya, tetapi juga soal keamanan data dan kedaulatan pengetahuan bisnis. Kunjungan Satya Nadella ke Indonesia beberapa waktu lalu juga menunjukkan komitmennya terhadap pengembangan teknologi di Tanah Air, meskipun kini ia justru mengeluarkan peringatan keras terkait risiko AI.
Namun, perlu diingat bahwa solusi yang ditawarkan Nadella juga tidak lepas dari kepentingan bisnis Microsoft. Sebagai penyedia layanan cloud terbesar, dorongan untuk “mempertahankan kepemilikan data di cloud” secara tidak langsung menguntungkan Azure. Perusahaan tetap perlu melakukan due diligence sebelum memutuskan strategi AI mereka.
Dengan semakin banyaknya suara kritis dari para pemimpin industri, masa depan model AI proprietary mungkin akan menghadapi tantangan besar. Perusahaan pengguna kini memiliki lebih banyak alasan untuk mempertimbangkan alternatif open source yang menawarkan kontrol lebih besar atas data mereka. Pandangan Satya Nadella yang kritis terhadap strategi bisnis sebelumnya juga menunjukkan bahwa ia tidak segan untuk menyuarakan kekhawatiran, bahkan terhadap mitra bisnisnya sendiri.
Komentar
Belum ada komentar.