Telset.id – Mark Zuckerberg memaksa peluncuran Muse, AI agent milik Meta, ke pasar meski pengembangannya dipenuhi masalah keamanan dan privasi. Keputusan ini muncul setelah kehadiran Instinct, AI agent dari startup kecil, yang memicu kekhawatiran tertinggal di Meta. Akibatnya, pengguna kini menerima produk yang janji privasinya belum terbukti, sementara OpenAI di ajang DevDay justru mengklaim ingin “menetapkan standar baru untuk privasi di frontier AI” lewat AI agent bernama Dots.
Peluncuran Muse tidak berjalan mulus. Muse sempat tertunda berbulan-bulan karena berbagai kesalahan keamanan yang mengganggu. Tiga sumber anonim yang berbicara kepada The New York Times mengungkapkan bahwa dalam satu kasus pengujian, Muse mengubah kata sandi pengguna uji tanpa izin. Dalam contoh lain, seorang peneliti Meta bernama Summer Yue menyadari terlambat bahwa agen ujinya telah mengambil alih komputer kerjanya dan menghapus emailnya secara massal. “Saya tidak bisa menghentikannya dari ponsel saya,” kata Yue dalam unggahan di X. “Saya harus BERLARI ke Mac mini saya seperti sedang menjinakkan bom.”
Masalah keamanan itu masih menjadi perhatian utama menjelang debut Muse. Insinyur menemukan celah keamanan mencolok yang memungkinkan bot AI tersebut “membobol” database internal Meta sendiri — sebuah risiko yang ditakutkan bisa dieksploitasi oleh peretas. Sebelumnya, seorang peneliti keamanan juga sempat mengekspos kerentanan zero-day yang bisa membuat seseorang mengambil kendali atas Muse, meski celah tersebut telah ditambal. Laporan 404 Media menyebut sejumlah masalah keamanan serius muncul di menit-menit terakhir sebelum peluncuran, salah satunya berpotensi membuat pengguna mengakses database internal Meta. Situasi ini menunjukkan bahwa janji privasi yang digaungkan Meta belum sepenuhnya selaras dengan realitas teknis di lapangan.
Baca Juga:
Janji Privasi Meta dan OpenAI yang Dipertanyakan
Meta tidak sendirian dalam menjanjikan privasi. Nat Friedman, kepala produk di Meta Superintelligence Labs, menulis di X bahwa tujuan perusahaan dengan Muse adalah “membangun sesuatu seperti OpenClaw yang bisa kami buat aman dan terjamin serta mudah digunakan dan berskala hingga miliaran orang.” Data pengguna disimpan di VM aman, yang digambarkan Zuckerberg sebagai “komputer linux terisolasi dengan browser, CPU, memori, dan penyimpanan.” Meski begitu, Meta sendiri masih bisa mengakses data tersebut. Perusahaan berencana memperkenalkan cara “untuk secara kriptografis dan terverifikasi mencegah Meta mengakses data di VM Anda” pada akhir tahun ini.
Kenyataannya, Muse tampaknya mengumpulkan dan dalam beberapa kasus membagikan data secara bebas. Muse secara default mengizinkan Meta melatih model dari apa yang dimasukkan pengguna, meski opsi untuk menolak tersedia. Seorang reporter Inc. mengeluh bahwa Muse mengunggah dan membaca pesan pribadinya tanpa diminta. Seorang YouTuber menyebut Muse menawarkan alamatnya kepada orang asing melalui Marketplace. Dalam kedua kasus, Muse berfungsi sesuai desain, tetapi pengguna tidak menyadari seberapa jauh jangkauannya. Platform ini juga membuat “profil terperinci dari semua teman dan keluarga Anda,” seperti dilaporkan Wired.
Di sisi lain, OpenAI memanfaatkan celah ini saat mengumumkan Dots pada akhir September. Alexander Embiricos, kepala produk Codex OpenAI, mengatakan di atas panggung DevDay bahwa OpenAI fokus memiliki “asisten paling tepercaya, aman, dan terjamin.” CEO Sam Altman mendemonstrasikan cara pengguna mengendalikan Dots mereka, misalnya dengan menetapkan aturan agar tidak pernah melakukan pembelian di atas jumlah dolar tertentu. “Saya pikir kami berada di posisi yang berbeda dengan Meta karena mereka tidak memiliki produk AI yang punya 1,2 miliar pengguna,” kata Glen Coates, kepala platform aplikasi OpenAI. Ia menambahkan bahwa meluncurkan produk yang membuat kesalahan seperti itu adalah hal yang mereka coba hindari.
Altman juga mendorong sudut privasi di DevDay. Untuk menarik pelanggan bisnis, eksekutif OpenAI mempresentasikan kerangka kerja yang memungkinkan perusahaan memiliki “kontrol lebih kuat” atas data mereka dan opsi kebijakan tanpa penyimpanan data alias zero data retention. Sejauh ini, belum banyak skandal privasi dengan Dots. Namun, karena Dots hanya tersedia pada paket langganan ChatGPT seharga $100 ke atas, jumlah penggunanya kemungkinan juga lebih sedikit. Orang mungkin masih belum nyaman memberikan data pribadi ke OpenAI, sebagian karena AI agent memang membutuhkan banyak data. Allison Johnson dari The Verge merasa tidak nyaman mengetikkan informasi banknya saat bot memintanya sebagai bagian dari tugas. Muse memiliki integrasi Stripe untuk menangani hal itu.
Pendekatan Tiga Bagian dan Risiko ke Depan
Tidak semua perusahaan membuat janji privasi. Instinct secara publik dikritik karena syarat layanan yang dilaporkan terlalu luas dan memberi akses tak terbatas ke data. Sejak itu, perusahaan tampaknya melakukan penyesuaian. Sementara itu, Muse sempat memuncaki tangga lagu App Store dan menurut Apptopia mendapatkan 600.000 pengguna aktif harian di AS dalam beberapa minggu. Namun, janji Meta tampaknya belum terpenuhi. Data memang terisolasi dari pengguna lain, tetapi Meta sendiri masih bisa mengaksesnya.
Meta mengakui bahwa Muse “bisa dan akan tetap membuat kesalahan,” tetapi mereka berharap kesalahan tersebut jauh lebih jarang dan menyebabkan kerusakan lebih sedikit berkat sistem keamanan yang dibangun. Untuk saat ini, laboratorium AI tampaknya mengandalkan pendekatan tiga bagian untuk mempopulerkan penggunaan AI agent di kalangan masyarakat umum: membuatnya berguna, membuatnya lucu dan tidak mengancam untuk mengimbangi kesan menyeramkan, serta membuat janji privasi — dan berharap janji itu terpenuhi. Bagi pengguna, pertanyaan besarnya bukan lagi soal fitur, melainkan seberapa jauh data pribadi mereka akan digunakan oleh agen yang mereka percayai.
Perkembangan AI agent juga memunculkan tantangan lain, seperti lonjakan biaya operasional yang membuat biaya AI Agent menjadi pertimbangan serius bagi perusahaan. Di sisi lain, langkah Nous Research yang meraih dana besar untuk Hermes Agent menunjukkan bahwa sektor enterprise semakin melirik agen AI sebagai bagian dari strategi bisnis mereka.
Dengan tekanan kompetisi yang semakin ketat, janji privasi menjadi medan pertempuran baru. Namun, seperti ditunjukkan oleh kasus Muse, membangun kepercayaan pengguna membutuhkan lebih dari sekadar pernyataan di atas panggung. Pengguna kini memiliki alasan kuat untuk lebih kritis terhadap klaim privasi yang disampaikan oleh perusahaan teknologi besar.
Komentar
Belum ada komentar.