Meta Gagal Blokir 350+ Iklan CSAM, Anak Korban Nyata Teridentifikasi

Telset.id – Meta kembali gagal menegakkan kebijakannya sendiri setelah ratusan iklan mengandung materi pelecehan seksual anak (CSAM) lolos moderasi dan tayang di platform Facebook, Instagram, dan Threads. Temuan terbaru dari nonprofit Tech Transparency Project (TTP) mengungkap lebih dari 350 iklan video kasar telah dipublikasikan Meta sejak akhir tahun lalu, dengan sebagian besar menampilkan wajah anak-anak asli yang dimanipulasi menjadi konten seksual eksplisit menggunakan teknologi AI.

Temuan ini menjadi pukulan telak bagi klaim Meta yang sebelumnya menyatakan telah meluncurkan alat AI baru untuk “mendeteksi dan memblokir” iklan berbahaya. Faktanya, sejak awal Agustus saja, para peneliti menemukan lebih dari 250 iklan tambahan mengandung CSAM yang berhasil tayang, termasuk beberapa yang identik dengan yang sebelumnya telah dihapus perusahaan.

Anak Nyata Menjadi Korban

Berbeda dengan 53 iklan yang ditemukan awal bulan lalu, para peneliti TTP kini berhasil mengidentifikasi gambar anak-anak asli dalam iklan-iklan baru tersebut. Kasus paling mencolok melibatkan anggota keluarga kerajaan Eropa yang masih di bawah umur, di mana foto resmi yang dirilis kerajaan diubah menjadi video “adegan seksual grafis.”

Katie Paul, direktur TTP, menegaskan kasus ini bukan sekadar konten CSAM yang dihasilkan AI. “Ada banyak bahaya yang bisa timbul dari ini sementara Meta terus meraup keuntungan dari prosesnya,” ujarnya. Para peneliti berhasil menemukan identitas dunia nyata dari empat anak di bawah umur yang gambarnya digunakan, tiga di antaranya berasal dari Amerika Serikat.

Salah satu korban adalah remaja yang memiliki akun influencer media sosial di platform Meta. Lainnya adalah model foto stok yang nyata, yang justru dilabeli “pra-remaja” di situs foto stok. Seluruh temuan telah dilaporkan ke National Center for Missing and Exploited Children (NCMEC) melalui CyberTipline.

Pola Serangan dan Dampak Luas

Iklan-iklan tersebut mengikuti pola serupa: menampilkan foto polos anak perempuan pra-remaja atau remaja dengan teks “bukan sekadar foto” dan klaim “tidak ada batasan” atas gambar tersebut. Saat video diputar, wajah anak-anak dimorf menjadi video seksual grafis. Iklan kemudian mengarahkan pengguna untuk mengunduh aplikasi AI face-swapping dari Apple App Store dan Google Play Store.

Dampak iklan ini sangat luas. Data dari Meta ad library menunjukkan iklan-iklan tersebut ditayangkan ke lebih dari 29.000 akun di negara-negara Uni Eropa dan sekitar 7.000 akun di Inggris. Lebih dari 250 iklan muncul di Amerika Serikat, 120 di Australia, dan 80 di India. Jumlah sebenarnya diperkirakan jauh lebih besar karena Meta tidak mempublikasikan data kinerja iklan secara granular di negara-negara tersebut.

Respons Meta dan Temuan Tambahan

Meta membantah lalai dalam menangani masalah ini. Juru bicara Meta, Tracy Clayton, menyatakan perusahaan tidak mentolerir aplikasi nudify atau eksploitasi anak, baik yang nyata maupun dihasilkan AI. Meta mengklaim “banyak” iklan yang ditemukan peneliti telah dihapus, sebagian besar memiliki kurang dari 200 impresi, dan perusahaan hanya menerima “di bawah $5.000” dari pembayaran iklan tersebut.

Namun, data menunjukkan sebaliknya. Dalam beberapa kasus, TTP menyatakan Meta membutuhkan waktu seminggu untuk meninjau iklan live yang dilaporkan mengandung CSAM. Selama periode tersebut, iklan-iklan itu mengumpulkan ratusan penayangan tambahan. Ketika iklan akhirnya dihapus, beberapa tidak menyertakan pengungkapan bahwa mereka melanggar kebijakan pelecehan seksual anak Meta—detail tersebut baru muncul setelah WIRED menanyakan perbedaan ini.

Analisis tambahan oleh WIRED menemukan ratusan iklan eksplisit lainnya dengan bahasa serupa di platform Meta. Lebih dari 11.000 iklan undress telah muncul sejak Februari tahun ini menurut laporan Indicator Media, dengan banyak di antaranya diposting oleh “pelanggar berulang.”

Tekanan Regulator dan Hukum

Temuan ini muncul di tengah Meta membayar hingga $16,7 miliar untuk menyelesaikan gugatan atas tuduhan platformnya membahayakan anak-anak. Meta juga mengajukan banding atas keputusan pengadilan New Mexico yang mewajibkan perusahaan memperbaiki proses pelaporan CSAM dan menyertakan tinjauan manusia.

Beberapa pejabat kini bergerak. Senator Virginia, Mark Warner, yang mengirim surat kepada CEO Meta Mark Zuckerberg setelah laporan awal WIRED, menyatakan kekecewaannya. Jaksa Agung Michigan mengatakan kantornya “secara aktif menyelidiki” masalah ini, sementara Jaksa Agung Florida, James Uthmeier, mengumumkan investigasi. Regulator internet Australia, eSafety, juga menilai kepatuhan Meta terhadap aturan mereka.

David Pham, mantan karyawan Meta yang menyelidiki pencitraan nonkonsensual di platformnya, mengungkapkan pola penghindaran yang sistematis. “Setiap kali platform atau penyidik membangun model deteksi baru, mereka dengan cepat—dalam satu hari, mungkin lima hari—membangun cara baru untuk menghindari deteksi,” katanya. Pham menambahkan bahwa Meta memiliki pendanaan dan sumber daya untuk mengatasi masalah ini.

Emma Hardy dari Internet Watch Foundation menekankan urgensi masalah ini. “Platform dan perusahaan harus memastikan tidak ada ruang bagi aplikasi-aplikasi ini untuk diiklankan dan disebarkan,” tegasnya. Katie Paul dari TTP menyoroti ironi situasi ini: “Ini bukan sesuatu yang seharusnya ditemukan oleh nonprofit kecil melalui penelitian. Kita berbicara tentang salah satu perusahaan dengan sumber daya teknologi dan finansial terbesar di planet ini.”