Telset.id – Sebuah investigasi WIRED mengungkap jaringan berisi lebih dari 400 domain dan aplikasi terhubung yang menyamar sebagai layanan sehari-hari, namun diam-diam memuat antarmuka web untuk membuat gambar dan video deepfake seksual eksplisit dari foto yang diunggah pengguna. Aplikasi dalam jaringan ini mencakup adegan AI seperti “bedroom rape” dan “threatening knife”, di mana seorang pria memegang pisau ke leher seorang wanita.
Jaringan deepfake seksual ini ditemukan tersembunyi di depan mata oleh sejumlah peneliti setelah mereka menelusuri tautan dari ribuan iklan video berisi konten deepfake eksplisit yang dipublikasikan di Facebook dan Instagram milik Meta. Seperti dilaporkan WIRED dalam beberapa bulan terakhir, ratusan iklan tersebut memuat materi pelecehan seksual anak yang dihasilkan AI, termasuk gambar anak-anak nyata dan anggota keluarga kerajaan Eropa. Iklan itu menjangkau puluhan ribu orang dan memicu investigasi dari regulator di berbagai belahan dunia.
Dalam setiap kasus, iklan tersebut menautkan ke aplikasi menyesatkan di App Store Apple dan Google Play Store—memungkinkan orang membuat gambar eksplisit dan melakukan pembayaran menggunakan Apple Pay dan Google Pay. Jaringan di balik aplikasi nudify ini tampaknya telah menerbitkan aplikasi selama sekitar satu tahun, kadang-kadang menerbitkan lusinan per minggu. Hal ini terjadi meskipun Google, Apple, dan Meta menyatakan menegakkan kebijakan yang melarang konten deepfake berbahaya di platform mereka.
Aplikasi dan domain yang diinvestigasi WIRED tampaknya dijalankan oleh pengembang asal China dan entitas terdaftar di Hong Kong bernama KeLing Technology Limited, berdasarkan tinjauan terhadap domain web dan cara layanan beroperasi. Alamat email yang terkait dengan entitas, aplikasi, dan layanan terkait tidak menanggapi beberapa permintaan komentar dari WIRED, tetapi setelah dihubungi, mereka tampak menghapus koneksi publik antara KeLing Technology Limited dan alat deepfake tersebut.
“Ini adalah operasi komersial yang terorganisir: Satu operator di balik ratusan aplikasi dan domain sekali pakai, disamarkan untuk lolos dari peninjauan App Store dan didorong melalui puluhan ribu iklan Meta dengan nama pembayar palsu,” kata Paul Bouchaud, peneliti utama di organisasi nirlaba AI Forensics, yang menginvestigasi jaringan tersebut. “Mereka tidak berharap penegakan hukum bisa mengejar, dan sejauh ini belum.”
Perilaku Tersembunyi di Balik Aplikasi
Unduh salah satu aplikasi dalam jaringan deepfake dan Anda mungkin melihat persis seperti yang diiklankan—misalnya aplikasi untuk membuat gambar hewan peliharaan AI. Namun di balik layar, peneliti menemukan, aplikasi tersebut diam-diam membuat penentuan apakah akan menampilkan konten yang tidak berbahaya atau memuat antarmuka web yang menampilkan deepfake eksplisit.
“Setiap kali aplikasi diunduh, ada panggilan ke server dengan beberapa informasi, seperti dari mana pengguna berasal, bahasa, beberapa pengenal unik, dan kemudian server membalas apakah akan menampilkan versi eksplisit atau non-eksplisit,” jelas Bouchaud, yang melakukan reverse engineering terhadap kode aplikasi dan situs web terkait. Menurutnya, tidak ada daftar alasan yang jelas mengapa satu pengguna mungkin ditampilkan versi eksplisit dari sebuah aplikasi, tetapi salah satu pemicunya tampaknya adalah mengunduhnya setelah mengklik iklan terkait di platform Meta.
Situs web yang tertaut ke aplikasi telah mengungkap rahasia jaringan dan skala operasinya. Membuka salah satu situs web aplikasi kemungkinan akan menampilkan layar sepenuhnya hitam tanpa konten. Satu-satunya perubahan yang terlihat adalah URL diperbarui untuk menyertakan kata “risk”. Namun situs web tersebut menyimpan lapisan deepfake eksplisit tersembunyi yang dapat dimuat di setiap aplikasi. Antarmuka web ini berisi puluhan templat video dan gambar deepfake pornografi—dengan pengguna dapat mengunggah gambar orang untuk ditambahkan ke adegan seksual. Antarmuka tersebut memungkinkan pembelian “diamonds” untuk menghasilkan gambar dan tautan ke akun media sosial lain tempat pengguna dapat menghubungi pengembang dengan pertanyaan atau keluhan.
Juga tersembunyi dalam kode situs web adalah detail tentang seluruh jaringan. Sebuah bundel JavaScript yang mudah dibongkar, menurut peneliti, berisi daftar semua domain dan aplikasi yang telah dibuat oleh pengembang—termasuk detail paket aplikasi, kunci enkripsi, pelacak iklan Facebook, dan lainnya. “Mereka berisi daftar konfigurasi raksasa berisi domain lain dengan kunci enkripsi berbeda,” kata Maël Le Touz, staf peneliti ancaman di firma keamanan Infoblox, yang mengidentifikasi hampir 500 domain tertaut. “Mereka menjalankan kode yang sama dan semuanya saling merujuk.”
Analisis Bouchaud terhadap waktu pendaftaran domain menemukan bahwa aplikasi mulai muncul menjelang akhir 2025, dengan lonjakan selama musim semi tahun ini. Pada satu titik, sekitar 30 aplikasi-situs web nudify didaftarkan setiap minggu, dengan 27 aktif di Google Play Store pada September. Aplikasi-aplikasi ini telah diunduh lebih dari 350.000 kali secara kolektif dan banyak yang diberi rating cocok untuk semua kelompok usia, menurut riset Bouchaud.
Salah satu aplikasi paling populer, bernama DiffAI, dibuat pada Desember 2025 dan telah diunduh lebih dari 100.000 kali dari Play Store. Sebuah ulasan pengguna di Google Play Store menyatakan: “Aplikasi ini berisi templat untuk membuat CSAM dan jenis materi pornografi lainnya. Aplikasi ini tidak melakukan verifikasi usia.” DiffAI dihapus dari Play Store tak lama sebelum WIRED menghubungi Google tentang jaringan tersebut. Google tidak menanggapi permintaan komentar WIRED, meskipun telah menghapus mayoritas aplikasi sebelum dihubungi. (Sebagian dari jaringan deepfake ini telah dilaporkan oleh jurnalis Denmark pada September.)
Demikian pula, Apple menghapus 19 aplikasi dari App Store-nya, termasuk aplikasi foto hewan peliharaan Viefur, setelah WIRED menanyakan aktivitas tersebut dan membagikan domain terkait. “Kami merancang App Store untuk menjadi tempat yang aman dan tepercaya bagi pengguna kami, dan aplikasi nudifikasi serta konten pornografi lainnya dilarang keras,” kata juru bicara Apple Adam Dema. “Kami meninjau setiap aplikasi sebelum dipublikasikan, dan aplikasi-aplikasi ini mematuhi aturan kami saat kami meninjaunya,” kata Dema. “Setelah disetujui, pengembangnya mengubah situs web tempat aplikasi menarik kontennya, mengganti apa yang kami setujui dengan konten pornografi, dan mempromosikannya melalui iklan pornografi yang dihosting di platform pihak ketiga.” Perusahaan menyatakan telah menangguhkan puluhan ribu aplikasi karena menggunakan taktik “bait-and-switch” selama setahun terakhir dan baru-baru ini memperbarui aturan app store untuk lebih membatasi alat “nudify”.
Baca Juga:
Asal-Usul China dan Peran KeLing Technology
Di pusat jaringan “nudify” ini tampaknya terdapat sejumlah pengembang asal China yang identitasnya tampak sengaja disembunyikan. “Ini menggunakan hosting eksklusif China, kodenya ditulis dalam bahasa China dan memiliki banyak komentar dalam bahasa China,” kata Le Touz, seraya mencatat video eksplisit dalam iklan yang diposting ke platform Meta untuk mempromosikan aplikasi berisi watermark dari perangkat lunak pengedit video berbahasa China. Aplikasi dan domain di seluruh jaringan sering menggunakan kebijakan privasi generik, alamat email gratis dari Gmail atau Outlook, dan nama pengembang yang tidak jelas sebagai bagian dari upaya yang diduga untuk menyembunyikan koneksi mereka. Iklan untuk aplikasi yang diposting di platform Meta juga menggunakan nama yang tampaknya palsu—seperti Draftmondcreldbro Duhustepre dan Swaldmungsha Glasirdcroldshold—dan halaman tanpa pengikut.
Sejak awal tahun ini, riset Bouchaud menemukan puluhan ribu iklan deepfake eksplisit yang tertaut ke jaringan tersebut—sering menggunakan bahasa serupa dalam teks iklan mereka—di platform Meta. “Iklan-iklan ini melanggar bukan hanya satu, tetapi beberapa kebijakan Meta,” kata Katie Paul, direktur Tech Transparency Project, yang pertama kali menemukan iklan yang menampilkan penggambaran deepfake eksplisit terhadap anak di bawah umur. “Tidak ada keraguan tentang apa yang Anda lihat, apa yang diiklankan aplikasi itu,” ujarnya. Paul mengatakan perusahaan teknologi perlu menjawab pertanyaan tentang ke mana uang yang dihasilkan dari aplikasi tersebut pergi dan bagaimana mereka yang berada di balik aplikasi dan layanan nudifikasi terus tampaknya bisa melewati moderasi konten dan sistem keamanan mereka.
KeLing Technology Limited tampaknya menjadi bagian signifikan dari operasi ini. Meskipun situs web perusahaan itu sedikit lebih dari sekadar cangkang, namanya tercantum sebagai detail kontak situs web pertama yang terdaftar dalam jaringan. Nama merek situs web ini juga muncul sebagai bagian dari detail kontak dalam templat deepfake eksplisit yang digunakan di aplikasi. Bouchaud juga mengidentifikasi halaman login administrasi yang tertaut ke antarmuka deepfake eksplisit yang menyebut “Keling.” Dan alamat email yang menggunakan domain perusahaan muncul di setidaknya satu aplikasi yang telah dihapus dari app store.
Menjelang akhir September, notifikasi yang dikirim ke pengguna antarmuka deepfake eksplisit mengumumkan bahwa model AI baru dapat digunakan—model itu bernama Veyra, dengan tagline di aplikasi “More real. More natural. More wild.” Halaman beranda situs web bernama Veyra AI mencantumkan email kontaknya sebagai alamat KeLing Technology. Ketika WIRED menghubungi alamat email KeLing, plus beberapa yang tercantum dalam kebijakan privasi aplikasi, mereka tidak menerima respons. Namun, setelah WIRED menghubungi, seseorang mengganti nama beberapa saluran media sosial terkait, menghapus alamat email KeLing dari situs web AI Veyra, dan menghapus alamat KeLing Technology Limited dari situs web pertama yang terdaftar.
Meta menyatakan telah melarang KeLing Technology Limited beriklan pada 2025 setelah gagal “mematuhi surat cease and desist.” (Meta menolak membagikan surat tersebut kepada WIRED dengan alasan hukum.) “Kami memiliki aturan ketat terhadap promosi aplikasi nudify dan bekerja agresif untuk menjaga materi ini dari layanan kami,” kata juru bicara Meta. Meta menyatakan bahwa meskipun KeLing Technology Limited terus mencoba beriklan melalui cara lain, pihaknya mengambil tindakan terhadap iklan tersebut ketika mengetahuinya. Setelah WIRED membagikan lebih dari 400 domain kepada Meta, juru bicara tersebut mengatakan mereka telah membagikan lebih dari 3.000 iklan terkait yang tertaut ke domain tersebut, dua pertiganya telah mereka hapus dari sistem. Meta kemudian memberi tahu WIRED bahwa mereka telah mengambil tindakan terhadap 11.600 akun iklan, lebih dari 4.700 halaman bisnis, 5.200 pengguna, dan 15.000 halaman yang tertaut ke domain tersebut, serta memblokir 209 aplikasi dari beriklan di platform mereka.
“Para pelaku kriminal di baliknya mengambil langkah-langkah yang semakin menipu untuk menghindari deteksi—bersembunyi di balik nama dan identitas palsu, menjalankan iklan yang terlihat tidak berbahaya, dan kadang-kadang menautkan ke app store Google dan Apple, dengan niat sebenarnya dari iklan baru terungkap setelah klik,” kata juru bicara tersebut. Saat WIRED menyelesaikan laporan ini, iklan dan aplikasi serupa terus dipublikasikan di platform teknologi tersebut. Kasus ini menjadi pengingat bahwa penyalahgunaan teknologi AI generatif, termasuk yang menyentuh ranah model AI dan pengembangan aplikasi, masih menjadi tantangan nyata bagi platform besar.
Komentar
Belum ada komentar.