Meta Dihujani Konten AI Palsu Selebriti, Perlindungan Hukum Dipertanyakan

Telset.id – Meta kembali menghadapi sorotan terkait maraknya konten AI palsu yang menampilkan sosok selebriti tanpa izin, setelah kasus akun fan account aktris Mia Goth yang memiliki centang biru terverifikasi viral di Instagram. Akun @miagoth_ dengan lebih dari satu juta pengikut itu mengunggah gambar hasil AI yang memperlihatkan Goth mengenakan kaos bertuliskan “MY EX IS MY BIGGEST FAN”, hanya beberapa hari setelah aktris tersebut mengajukan gugatan cerai dari aktor dan pembuat film Shia LaBeouf.

Gambar tersebut mencatat hampir 500.000 likes, termasuk dari kalangan industri hiburan, meski halaman itu dilabeli sebagai fan account. Menurut laporan The Verge, gambar itu dihasilkan AI dan diunggah oleh akun yang sebelumnya telah diadukan perwakilan Goth ke Instagram karena memposting “counterfeit, AI images” dari aktris tersebut. Meta sendiri mengizinkan pengguna membeli centang biru terverifikasi, bahkan jika akun itu tidak dijalankan oleh figur publik atau bukan halaman resmi.

“Fakta bahwa fan account ini memenuhi kriteria Instagram untuk mendapatkan ‘blue check’ sangat mengkhawatirkan secara fundamental,” ujar Christine Tripicchio, perwakilan Goth, kepada The Verge melalui email. “Lebih dari itu, tidak masuk akal bahwa Instagram terbukti memprioritaskan penyebaran gambar palsu dan manipulatif di atas perlindungan dan integritas citra seorang figur publik.”

Karena berita perceraiannya, unggahan itu menyebar ke media gosip selebriti, dan liputan tersebut lantas menyebarkan unggahan itu melalui pencarian Google. Pencarian untuk aktris dan kaos tersebut memicu AI-generated overview yang menyatakan Goth melakukan “a clear swipe at her ex, Shia LaBeouf, following their recent divorce filing”, dengan mengutip blog-blog tersebut. Sebuah bagian di hasil pencarian Google berlabel “Mia Goth turns heads on Instagram by wearing a sassy ‘My ex is my biggest fan’ t-shirt” ditampilkan menonjol, bersama tautan ke unggahan media sosial yang membahas gambar itu. Instagram akhirnya menghapus akun tersebut karena menyamar sebagai figur publik.

Penyalahgunaan Citra Selebriti di Platform Meta

Sejak alat AI generatif konsumen tersedia beberapa tahun lalu, beberapa kasus paling berkesan dan kontroversial melibatkan orang terkenal. Subjek manusia tersebut secara historis tidak merespons baik ketika dikloning secara digital dan digunakan sebagai mainan: lagu Drake mirip aslinya yang dihasilkan AI dihapus dari YouTube setelah klaim hak cipta. Scarlett Johansson menyewa tim hukum setelah OpenAI merilis suara untuk ChatGPT yang terdengar seperti dirinya tanpa persetujuannya. Ariana Grande dikabarkan memblokir akun yang memposting konten AI tentang dirinya tahun lalu. Taylor Swift secara publik mendukung Kamala Harris untuk presiden pada 2024, mengatakan ia tergerak mengklarifikasi posisinya setelah Donald Trump memposting gambar palsu yang menyiratkan dukungan Swift untuknya.

Ada masa ketika semua orang, bahkan yang kaya dan terkenal, bergulat dengan norma seputar teknologi baru. Kini, gelombang konten AI di internet hanya bertambah besar, dan tidak jelas apakah ada yang mencoba atau mampu menghentikannya. Konten AI yang menampilkan figur publik perempuan seringkali bersifat seksual secara terang-terangan. Sebuah profil yang secara eksklusif memposting gambar AI Johansson, sering dengan kaki telanjang ditampilkan menonjol, mencantumkan informasi kontak agar perusahaan dapat beriklan di akun tersebut, bersama tautan ke Patreon dan kanal Telegram yang menjual langganan. Konten di luar platform itu menggunakan nama dan citra (AI) Johansson untuk mengiklankan konten dewasa. Akun lain memposting gambar AI realistis dari aktor dan musisi seperti Millie Bobby Brown, Zendaya, dan Grande, selalu berpakaian minim atau dalam posisi seksual. Beberapa akun memiliki ceruk sendiri, seperti “Stranger Things actors getting married to each other”.

Setelah The Verge menanyakan Meta tentang delapan akun yang memposting konten deepfake selebriti, juru bicara Alex Dziedzan mengatakan perusahaan telah menghapus beberapa akun tersebut. Dua di antaranya, akun Goth dan akun Johansson, tampaknya telah diturunkan. “Kami tidak mengizinkan akun menggunakan kemiripan seseorang untuk menyamar sebagai individu tersebut, terlepas dari apakah kontennya autentik atau dihasilkan AI,” kata Dziedzan dalam email.

Taylor Swift terlihat memegang minuman, nge-rap mengikuti lagu Drake “Burning Bridges”, lengkap dengan kata-kata kotor. “I’m off a [Quaalude]/it make my body tingle,” ia bernyanyi, mengenakan gaun dari momen VMAs 2009 yang terkenal. Video itu jelas AI. Video tersebut memiliki 1,8 juta views di Instagram. “I don’t think her pr team gonna like her saying the N word,” komentar seseorang. Instagram dipenuhi video seperti ini, sering mengikuti format yang sangat spesifik. Klip AI Shrek melakukan hal yang sama seperti AI Swift memiliki 3,1 juta views. Ada Steve Jobs, berjalan dengan lagu Drake berbeda sambil memegang botol sampanye (371.000 views). Ada juga versi Lionel Messi identik (2,1 juta views) yang diposting akun berbeda. Ada pula pembalap Formula 1 Lewis Hamilton dan Max Verstappen lipsync ke “APT” oleh Bruno Mars dan Rosé (2,9 juta views). Klip lain menunjukkan pernikahan AI Swift dengan AI Travis Kelce di AI Madison Square Garden. “ai he wore white tuxedo,” seorang fan membantu memverifikasi fakta.

Dengan tidak adanya hukum hak publisitas nasional di Amerika Serikat, konten yang dihasilkan AI yang menampilkan orang nyata sedang diadili di tingkat platform. Undang-undang Take It Down Act AS, yang ditandatangani menjadi undang-undang pada 2025, secara spesifik mengkriminalisasi distribusi citra intim non-konsensual, termasuk konten yang dihasilkan AI, dan mewajibkan platform menghapusnya dalam 48 jam. YouTube memiliki deteksi kemiripan, mungkin sistem pemantauan dan penurunan deepfake paling kuat. Di bawah program tersebut, YouTube akan memindai platformnya untuk kecocokan visual seseorang, dan baru-baru ini, suara yang mirip, serta memungkinkan mereka meminta penurunan konten. Tidak setiap permintaan penurunan diterima; perusahaan mengatakan mempertimbangkan kepentingan publik, nilai berita, dan persetujuan dalam mengevaluasi permintaan penurunan.

Program itu awalnya dibuka untuk figur publik seperti selebriti, kreator konten, politisi, dan jurnalis, tetapi kini mencakup setiap orang dewasa dengan akun YouTube. Di masa lalu, perusahaan mengatakan jumlah permintaan penurunan yang diterimanya relatif kecil. Kreator ingin mengetahui apa yang diposting tentang mereka di YouTube, tetapi seringkali hal itu “fairly benign or additive to their overall business”, kata Amjad Hanif, wakil presiden produk kreator, dalam pengarahan pers pada Maret. Juru bicara YouTube Jack Malon mencatat dalam email ke The Verge bahwa deteksi kemiripan perusahaan dikembangkan bermitra dengan industri hiburan. Malon mengatakan bahwa pada paruh pertama 2026, YouTube menghapus lebih dari 95 persen video yang dilaporkan melalui program tersebut untuk penurunan.

Konten yang dihasilkan AI di platform Meta sering memiliki label yang mengidentifikasinya sebagai AI. Beberapa konten, seperti video realistis orang atau audio suara yang dihasilkan AI, diwajibkan memiliki label AI. Gambar diam, di sisi lain, dikecualikan dari persyaratan pelabelan, yang berarti gambar palsu Mia Goth tidak akan memerlukan pengungkapan berdasarkan aturan Meta. Perusahaan juga memperkenalkan label “AI-generated profile” yang berlaku untuk seluruh akun di mana avatar yang digambarkan tidak ada di dunia nyata setelah banjir tipe influencer AI membanjiri platform.

Industri Konten AI yang Sulit Dikendalikan

Namun ada industri rumahan akun yang memproduksi gambar AI dari orang nyata yang tampaknya disukai algoritma. Beberapa konten tidak jelas jahat, hanya agak aneh: ada genre di Facebook, misalnya, video premiere film yang dihasilkan AI di mana para pemeran asli (dengan kostum) berjalan di karpet merah di samping aktor untuk versi recast. Satu profil mengiklankan kursus online $29 per bulan tentang cara menghasilkan uang melalui konten AI.

Konten selebriti yang dihasilkan AI juga memiliki kapasitas untuk benar-benar menipu orang agar mengira itu nyata, seperti dalam kasus gambar (dan akun) yang menggambarkan Goth. Postingan spesifik yang viral itu menyiratkan aktris tersebut mengejek LaBeouf, yang telah dituduh melakukan kekerasan oleh mantan pasangan lain dan terekam pada 2015 mengatakan ia “would have killed [Goth]” jika ia terus berdebat dengannya. Gambar palsu itu menarik perhatian, mencurigakan, dan tepat waktu, dengan kata lain sempurna untuk viralitas media sosial tetapi potensi beban hukum bagi pihak-pihak yang terlibat.

Insiden ini menggambarkan kegagalan ketentuan kepercayaan dan keamanan yang seharusnya melindungi dari kebingungan semacam ini. Di media sosial, konten AI bercampur bebas dengan repost gambar nyata standar. Dan bahkan ketika satu halaman diturunkan, ada halaman lain yang terus mendorong konten: akun Instagram lain, yang masih aktif, dengan lebih dari 300.000 pengikut memposting aliran gambar dan video Johansson yang stabil, yang tampaknya campuran gambar autentik dan konten yang dihasilkan AI. Salah satu postingan terpopulernya adalah apa yang tampak seperti gambar AI Johansson dengan hampir setengah juta likes. Tidak ada pengungkapan AI, sesuai dengan aturan Meta. Johansson deepfake itu berbaring di sofa, kaki telanjang ditampilkan menonjol. Itu bukan dirinya, jelas, tetapi penggemarnya di komentar entah tidak tahu atau tidak peduli.

Fenomena ini menunjukkan bahwa perlindungan privasi dan citra di platform digital masih menjadi tantangan besar. Seiring pertumbuhan konten AI yang menampilkan figur publik, pertanyaan tentang siapa yang bertanggung jawab dan bagaimana penegakan aturan menjadi semakin mendesak. Meta, YouTube, dan platform lain terus berupaya mengembangkan sistem deteksi dan penurunan, namun celah dalam kebijakan pelabelan dan verifikasi akun masih menjadi titik lemah yang dapat dimanfaatkan untuk menyebarkan konten manipulatif.