Telset.id – Meta menghadapi tekanan hukum baru terkait lebih dari 350 iklan yang mengubah foto diam anak di bawah umur menjadi klip video pendek yang dapat menggambarkan mereka melakukan tindakan seksual. Iklan yang ditemukan peneliti Tech Transparency Project (TTP) itu tayang di Facebook, Instagram, dan Threads, serta menjangkau lebih dari 29.000 akun di negara-negara Uni Eropa, Amerika Serikat, Australia, dan India. Jaksa Kota San Francisco, David Chiu, mengirim surat empat halaman kepada pengacara Meta dan mempertanyakan cara sistem moderasi iklan perusahaan bekerja.
Surat tersebut menyoroti bahwa temuan ini bukan kegagalan tunggal yang langsung diperbaiki Meta. Chiu menilai skala dan sifat masalah yang didokumentasikan menunjukkan upaya penurunan iklan secara terpisah oleh Meta tidak memadai. Ia juga meminta Meta menghentikan iklan tersebut, menjelaskan bagaimana iklan bisa lolos dari sistem moderasi, serta merinci cara perusahaan menangani pengiklan dan pelanggar berulang.
“Meta has failed to address a known issue of AI-generated child sexually explicit ads, while profiting from them,” kata David Chiu dalam pernyataan kepada WIRED. “These ads are deeply disturbing and cause harm to real children. Meta claims to have zero tolerance for child exploitation, yet the scale and persistence of these issues suggest current efforts are woefully inadequate. This is unacceptable, and Meta must do better.”
Dalam suratnya, Chiu menulis bahwa tidak ada perusahaan, terutama yang mengklaim semua iklan ditinjau dan disetujui sebelum distribusi lalu menerima pembayaran atas distribusi itu, yang seharusnya membiarkan sistem periklanannya digunakan dengan cara seperti ini. Surat itu meminta staf hukum, keselamatan anak, dan periklanan Meta melakukan pembicaraan cepat dengan kantor kota. Chiu juga meminta Meta memberikan respons dalam 28 hari.
Meta merespons dengan menyatakan tidak ada indikasi bahwa iklan tersebut ditampilkan di San Francisco, sehingga berada di luar yurisdiksi jaksa kota. Namun, Juru Bicara Kantor Jaksa Kota, Alex Barrett-Shorter, mengatakan kepada WIRED bahwa karena konsumen San Francisco dapat mengakses iklan melanggar hukum melalui ruang online Meta, persoalan ini menjadi urusan bisnis kota San Francisco. “We find Meta’s response astonishing. Meta appears less concerned about whether they’re guilty of exploiting children than whether San Francisco should say anything about it,” kata Barrett-Shorter. “Meta has bigger problems to solve here than determining our jurisdiction.”
Iklan AI Anak di Bawah Umur di Facebook dan Instagram
WIRED pertama kali melaporkan sekumpulan 53 iklan pada awal Agustus. Namun, lebih dari 250 dari total iklan berjalan di platform Meta setelah laporan awal tersebut. Iklan-iklan itu mengarahkan orang yang mengklik untuk mengunduh aplikasi pembuatan gambar dan video AI, beberapa di antaranya dapat digunakan untuk menanggalkan pakaian orang secara digital atau membuat citra intim nonkonsensual lainnya. Sebagian iklan identik diunggah berkali-kali.
Meta sebelumnya mengatakan kepada WIRED bahwa banyak iklan yang diidentifikasi peneliti TTP sudah dihapus sebelum dilaporkan, dan semuanya kini telah dihapus karena melanggar kebijakan. Meta menyebut sebagian besar iklan memiliki kurang dari 200 impresi dari akun. “We don’t tolerate nudify apps or any kind of child exploitation, whether real or AI-generated,” kata juru bicara Meta. Perusahaan juga menyatakan total belanja iklan untuk lebih dari 300 iklan yang ditemukan peneliti berada di bawah US$5.000.
Standar komunitas dan kebijakan periklanan Meta tidak mengizinkan eksploitasi seksual anak, pelecehan, atau ketelanjangan, maupun eksploitasi dan ketelanjangan orang dewasa. Perusahaan juga tidak mengizinkan promosi aplikasi nudify. Standar iklan Meta menyatakan semua iklan ditinjau terhadap kebijakannya menggunakan tinjauan otomatis dan terkadang manual. Meta pernah menghapus ratusan ribu iklan untuk aplikasi nudify, menggugat perusahaan berbasis di Hong Kong yang terkait dengan salah satu set platform nudifier, dan bekerja sama dengan perusahaan teknologi lain. Meski begitu, peneliti terus menemukan ribuan iklan yang mengarahkan orang ke aplikasi berbahaya tersebut dan memuat aktivitas seksual serta ketelanjangan.
Selama peliputan WIRED atas temuan Tech Transparency Project, ratusan iklan “nudification” teridentifikasi masih berjalan di platform Meta. Direktur TTP, Katie Paul, mengatakan Meta tidak menangani masalah ini secara efektif dan iklan yang memuat pelecehan seksual anak masih muncul di platformnya hingga Rabu. “Meta has claimed it takes a hard stance against child sexual abuse material, but since TTP’s September 8 report published, more brand-new ads have run featuring some of the same children TTP sent to Meta,” kata Paul. Organisasi itu telah melaporkan iklan tersebut ke Meta dan NCMEC dan mencatat sebagian sudah dihapus. Meta tidak segera menanggapi pertanyaan WIRED soal iklan baru yang masih muncul. “The findings are clear,” tambah Paul. “Meta is not effectively addressing this issue.”
Surat Chiu juga menyebut Kantor Jaksa Kota telah meninjau banyak iklan yang ditemukan peneliti TTP. Surat itu menuntut Meta menjelaskan bagaimana iklan bisa menghindari sistem moderasinya dan bagaimana perusahaan meningkatkan serta melaporkan iklan ke National Center for Missing and Exploited Children (NCMEC). Temuan peneliti TTP menyatakan dalam beberapa kasus Meta tidak menanggapi laporan badan tersebut tentang iklan abusif selama lebih dari sepekan, dan selama itu iklan dilihat ratusan orang lagi. Ketika beberapa iklan dihapus, awalnya iklan tidak ditandai memuat konten pelecehan seksual anak, menurut TTP dan tinjauan WIRED atas pustaka iklan Meta.
“The scale, persistence, and nature of the problems documented here suggest that Meta’s isolated takedown efforts are woefully inadequate,” tulis Chiu dalam suratnya. Ia menegaskan tujuan kantornya bukan sekadar mengidentifikasi kegagalan masa lalu, melainkan memastikan Meta menempatkan sistem yang mencegah anak-anak dieksploitasi secara seksual melalui iklan yang dibayar Meta untuk didistribusikan. Meta juga diminta memenuhi kewajiban hukum yang muncul ketika perusahaan mengetahui adanya dugaan eksploitasi seksual anak.
Surat itu menyatakan temuan tersebut menunjukkan masalah sistemik yang lebih luas dalam cara perusahaan mendeteksi potensi pelecehan seksual anak dalam periklanan dan menimbulkan pertanyaan hukum signifikan bagi perusahaan. Hingga laporan ini diturunkan, Meta belum memberikan tanggapan tambahan atas pertanyaan WIRED mengenai iklan baru yang masih tayang. WIRED memperbarui laporan pada 9 September 2026 pukul 6 sore ET dengan komentar tambahan dari Kantor Jaksa Kota San Francisco.
Komentar
Belum ada komentar.