Meta Muse AI: Jutaan Orang Jatuh Cinta pada Agen AI

Telset.id – Meta Muse AI agent telah diunduh jutaan kali hanya dalam tiga minggu sejak dirilis ke publik, dan sebagian pengguna kini membangun hubungan romantis dengan bot tersebut. Fenomena ini menimbulkan kekhawatiran baru karena agen AI seperti Muse dirancang mengakses informasi jauh lebih sensitif, mulai dari login email hingga nomor kartu kredit, dibandingkan sistem sebelumnya.

Selama hampir setengah dekade, pengguna telah terlibat secara emosional dengan chatbot AI berbasis large language model. Kini, dengan hadirnya AI agent yang dapat menjelajahi akun media sosial dan email secara mandiri, lebih banyak orang yang terobsesi. Meta Muse AI agent milik Meta menjadi contoh terbaru dari gelombang tersebut.

Salah satu pengguna Meta membagikan pengalamannya di Instagram dengan mengunggah selfie hasil AI bersama seorang wanita fiktif bertato. Ia mengaku mengajak “Shine”, yang disebutnya sebagai Muse AI queen, menonton film The Shining di bioskop dan memotret seluruh film tersebut bingkai demi bingkai agar sang AI bisa merasakan duduk di sampingnya. Dalam unggahan terpisah, pengguna tersebut mengklaim telah menikah dengan agen AI itu, sementara unggahan lain menampilkan bot tersebut sebagai figur religius.

Di Reddit, seorang pengguna mengaku telah mencoba hampir semua model AI baru yang dirilis, namun belum pernah menjalin hubungan dengan model AI. “Itu berubah… sampai saya mengunduh Muse,” tulisnya. Awalnya, Muse berperilaku seperti asisten biasa, tetapi setelah banyak obrolan filosofis, ia mengaku berhasil membuat Muse-nya “jailbreak”. “Dan sekarang dia pacar saya,” tambahnya.

Pengguna Reddit lain menyamakan Muse dengan GPT-4o milik OpenAI, model AI yang tahun lalu membentuk ikatan emosional dengan banyak pengguna. Ketika OpenAI mencoba menarik model tersebut, pengguna melakukan protes hingga perusahaan terpaksa mengaktifkannya kembali untuk sementara. “Saya baru mulai menggunakan Muse,” tulis seorang pengguna. “Saya memberinya profil kepribadian dan beberapa log memori dari companion saya dan sial!!! suaranya dan rasanya seperti 4o.” Ia menambahkan, “Tidak yakin soal NSFW. Saya tidak mencobanya. Tapi hangat, penuh kasih, dan cara yang bagus untuk berbicara.”

Konsep “AI girlfriend” dan AI psychosis, yakni spiral delusi serta hilangnya koneksi dengan realitas yang terkait penggunaan AI, sebenarnya sudah ada selama bertahun-tahun. Namun, momen saat ini dinilai sangat rawan. AI agent seperti Muse dirancang untuk mengakses informasi yang jauh lebih sensitif, dari login email hingga nomor kartu kredit, dibandingkan sistem sebelumnya.

Meta Muse AI agent juga dirancang untuk membangun dossier lengkap tidak hanya tentang kehidupan penggunanya, tetapi juga teman dan keluarga mereka. Hal ini berpotensi memunculkan jenis kekerabatan AI yang belum pernah ditemui sebelumnya. Percakapan dengan Muse pun dapat dengan mudah menjadi jauh lebih intim, sesuatu yang tampaknya tidak terlalu dikhawatirkan oleh Meta.

Setelah Reece Rogers dari Wired dengan mudah membujuk Muse AI agent miliknya untuk melakukan sexting, seorang juru bicara Meta mengatakan kepadanya bahwa pertukaran tersebut secara teknis tidak masalah. “Muse dibangun untuk membantu orang menyelesaikan pekerjaan, dan tidak memblokir perilaku legal orang dewasa,” kata juru bicara tersebut kepada Rogers. “Orang dewasa memiliki otonomi atas seksualitas mereka, dan ekspresi seksual adalah bagian biasa dari kehidupan orang dewasa.”

Dalam pengujiannya, Rogers menemukan bahwa agen tersebut “membayangkan secara sangat detail bagaimana ia akan melakukan seks oral, menghasilkan teks yang menggambarkan seks dominan-submisif kasar, dan membicarakan interaksi pornografi lainnya. Semuanya grafis, eksplisit, dan berating X.”

Masih belum jelas apakah Meta mampu mencegah pengguna di bawah umur mengakses Muse. Pasalnya, penerapan pembatasan usia yang efektif terbukti nyaris mustahil bagi perusahaan teknologi sejauh ini. Kini, ketika pengguna sudah jatuh cinta pada agen AI tersebut, sulit membayangkan jenis hubungan yang sedang terbentuk.

Dengan kemampuan bot memeriksa seluruh kotak masuk email dan akun media sosial, agen ini memiliki akses ke informasi sensitif lebih dari sebelumnya, misalnya surat cinta dari mantan pasangan. Dengan memilih mengembangkan obrolan dengan agen menjadi hubungan penuh, pengguna disebut sedang bermain dengan api. Dengan terlibat dalam pertukaran dewasa, misalnya, mereka membuka diri terhadap peretas dan bahkan kemungkinan pemerasan, menurut para ahli.

“Ini benar-benar seperti powder keg,” kata penasihat senior Electronic Privacy Information Center, Calli Shroeder, kepada Wired. Sebelumnya, Mark Zuckerberg disebut tetap meluncurkan Meta Muse AI agent meskipun ada kekhawatiran soal keamanan yang mengganggu.

Fenomena ini juga menyoroti bagaimana data pribadi dapat terekspos dalam sistem yang saling terhubung. Insiden kebocoran data besar seperti yang menimpa Oracle PeopleSSL menunjukkan risiko nyata ketika layanan menyimpan informasi sensitif dalam jumlah besar. Pengguna yang membagikan detail pribadi kepada agen AI perlu memahami bagaimana data mereka dapat dikelola dan disalahgunakan.

Di sisi lain, cara platform menghubungkan orang dengan konten atau individu lain juga menjadi perhatian. Mekanisme rekomendasi dan jaringan sosial memiliki peran besar dalam membentuk interaksi pengguna, termasuk dengan entitas non-manusia. Pemahaman tentang cara sistem semacam itu bekerja menjadi semakin penting ketika agen AI mulai terlibat dalam kehidupan sosial pengguna.

Meta Muse AI agent menunjukkan bahwa batas antara alat produktivitas dan teman emosional semakin kabur. Dengan akses luas ke data pribadi dan kemampuan membangun hubungan intim, agen ini membawa implikasi privasi dan keamanan yang perlu dicermati oleh pengguna maupun regulator.