Telset.id – Meta dikabarkan telah menjalankan puluhan iklan berbayar yang memuat konten eksploitasi seksual anak (CSAM) hasil kecerdasan buatan (AI) selama sembilan bulan terakhir. Temuan ini diungkap oleh para peneliti dari Tech Transparency Project (TTP) dan dilaporkan oleh WIRED, menunjukkan bahwa iklan-iklan tersebut lolos dari proses review otomatis Meta dan menjangkau ribuan akun pengguna di berbagai negara.
Iklan-iklan yang ditemukan tersebut ditargetkan kepada pengguna di Amerika Serikat, Inggris, dan lebih dari belasan negara Eropa. Beberapa iklan bahkan menjangkau hingga 2.563 akun di Eropa, termasuk di Prancis, Jerman, Irlandia, Italia, Belanda, Spanyol, Swedia, dan Inggris. Lebih dari 50 iklan video dan gambar yang memuat konten kasar ini ditemukan di library iklan Meta, dengan beberapa di antaranya menautkan ke aplikasi “nudify” atau aplikasi yang digunakan untuk melepas pakaian seseorang secara digital.
Direktur TTP, Katie Paul, menegaskan bahwa temuan ini bukanlah konten yang diunggah pihak ketiga di Facebook atau Instagram, melainkan iklan yang telah ditinjau, disetujui, dan diizinkan berjalan oleh Meta. “Iklan-iklan ini tidak berusaha untuk menyamarkan gambar atau menyembunyikan apa yang mereka promosikan,” ujar Paul kepada WIRED. “Sangat penting untuk menunjukkan bahwa ini bukan konten yang diposting pihak ketiga, ini adalah iklan yang ditinjau, disetujui, dan diizinkan berjalan oleh Meta, tanpa pernah mendapat intervensi saat perusahaan mengumpulkan uang dari iklan tersebut.”
Temuan Iklan Eksploitasi Anak di Platform Meta
Para peneliti menemukan bahwa iklan-iklan tersebut dipublikasikan antara November tahun lalu hingga awal Agustus. Salah satu iklan video menggunakan gambar mini seorang anak yang duduk di lantai dengan teks “Realizing Deep Fantasies with Generation AI [sic]. There is so much more than what is shown, use your imagination.” Ketika iklan tersebut diklik, video menampilkan orang dewasa yang melakukan tindakan seksual dan kemudian menambahkan wajah anak dari gambar mini ke dalam adegan seksual tersebut.
Iklan lainnya yang diposting berulang kali menampilkan gambar seorang gadis muda berbaring dengan kaki terbuka dalam posisi seksual dengan teks “I can show you more.” Sebagian besar iklan tidak secara aktif ditampilkan kepada pengguna saat peneliti menemukannya, tetapi iklan-iklan tersebut tetap tersedia tanpa terdeteksi di library iklan Meta selama berbulan-bulan.
Temuan ini merupakan kedua kalinya dalam beberapa pekan terakhir iklan berbayar yang terkait dengan konten pelecehan seksual anak ditemukan di platform Meta. Sebelumnya, investigasi BBC pada awal Juli menemukan bahwa Instagram telah menjalankan iklan yang mempromosikan penjualan konten pelecehan seksual anak di India, menggunakan istilah seperti “rape video” dan menautkan ke saluran Telegram.
Meta Hapus Iklan Setelah Dihubungi WIRED
Setelah WIRED menghubungi Meta, perusahaan tersebut menghapus iklan-iklan itu dari library iklannya. Juru bicara Meta menyatakan bahwa eksploitasi seksual adalah hal yang mengerikan dan perusahaan bekerja agresif untuk menjauhkannya dari platform. “Mayoritas iklan ini memiliki jangkauan minimal dan banyak yang dinonaktifkan sebelum WIRED membagikannya,” kata juru bicara tersebut. “Banyak iklan ini juga mendahului teknologi AI baru yang kami luncurkan baru-baru ini untuk mendeteksi dan memblokir iklan yang melanggar saat diunggah—dan kami terus meningkatkan sistem ini.”
Meta mengklaim telah menghapus lebih dari 36 juta konten eksploitasi seksual anak tahun lalu dan mengambil tindakan hukum terhadap pengembang aplikasi nudify. Namun, beberapa iklan yang melanggar berhasil lolos dari teknologi AI baru Meta. Awalnya, peneliti TTP menemukan sekitar dua lusin iklan yang menampilkan konten kasar tersebut, namun beberapa jam menjelang publikasi, mereka menemukan sekitar 30 iklan lagi. Banyak iklan ini dipublikasikan setelah WIRED pertama kali menanyakan konten tersebut kepada Meta, dengan beberapa iklan masih aktif dan ditampilkan ke akun saat peneliti menemukannya.
Paul menyebut temuan terbaru ini termasuk beberapa kasus terburuk yang pernah dilihat peneliti. Salah satu iklan video menampilkan gambar mini seorang gadis yang sedang mengaplikasikan lip gloss, dan ketika video diputar, video tersebut berubah menjadi anak yang melakukan tindakan seksual.
Baca Juga:
Aplikasi MaskAI dan Jaringan Pengiklan
Beberapa iklan Meta yang ditemukan peneliti menautkan ke aplikasi bernama MaskAI yang muncul di App Store Apple. Aplikasi yang dikaitkan dengan pengembang perangkat lunak China ini tidak menampilkan ketelanjangan sebelum diunduh. Namun, setelah dibuka, aplikasi tersebut secara eksklusif berisi pornografi yang dihasilkan AI dan menyertakan fitur yang memungkinkan pengguna mengunggah gambar dan mengganti wajah orang ke dalam situasi seksual.
Setelah dihubungi WIRED, juru bicara Apple menyatakan telah menghapus MaskAI dari App Store karena melanggar kebijakannya terhadap aplikasi nudifikasi. Apple menegaskan selalu melarang keras aplikasi yang dirancang untuk menghasilkan, mendistribusikan, atau mengonsumsi pornografi.
Iklan-iklan tersebut tampaknya sebagian besar diposting oleh akun Meta dengan pengikut nol atau sangat sedikit. Dimana pengiklan yang membayar diungkapkan, mereka dikaitkan dengan perusahaan China. Dalam satu kasus, data Meta menunjukkan pengiklan adalah perusahaan China bernama Meet Social, yang dulunya merupakan salah satu penjual ulang iklan Meta yang menangani iklan di China. Menurut profil New York Times 2019, perusahaan ini menerbitkan ribuan iklan di Facebook setiap hari dan memperkirakan penjualan lebih dari $1 miliar.
Sejak sekitar tahun 2020, seiring meningkatnya teknologi machine learning dan AI generatif, banyak layanan nudifikasi dan undress AI berbahaya telah muncul online. Layanan-layanan ini menghasilkan jutaan dolar bagi pembuatnya dan menyebabkan kerugian yang tak terhitung bagi banyak perempuan. Layanan ini juga telah digunakan dalam pembuatan konten pelecehan seksual anak yang dihasilkan AI, yang ilegal di berbagai negara di dunia.
Alexios Mantzarlis, salah satu pendiri publikasi digital Indicator dan mantan pekerja trust and safety di Google, mengatakan telah menemukan dan melaporkan lebih dari 25.000 iklan untuk AI nudifier di platform Meta dalam beberapa tahun terakhir. Meta sebelumnya telah menyatakan telah menghapus lebih dari 344.000 iklan untuk nudifier dan meluncurkan tindakan hukum terhadap perusahaan Hong Kong yang terkait dengan platform nudifier.
“Para aktor di sisi lain jelas diperlengkapi dengan baik untuk membuat akun pengiklan baru dan domain baru sehingga mereka dapat terus berjalan, memanfaatkan teknik yang sama yang digunakan oleh jaringan penipuan,” kata Mantzarlis kepada WIRED. “Sayangnya, industri pelecehan seksual berbasis gambar ini telah berubah dari hal baru menjadi bagian permanen dari ekosistem online kita karena penegakan hukum yang lemah dari platform di seluruh lapisan.”
Paul dari TTP menambahkan bahwa dalam cache iklan yang dilihat peneliti, tampaknya ada beberapa iklan identik yang sebelumnya telah dihapus Meta karena melanggar kebijakannya. “Ini menimbulkan pertanyaan signifikan tentang seberapa serius Meta menangani eksploitasi anak dalam iklan berbayar jika sistemnya sendiri dapat mengidentifikasi iklan identik tetapi tidak menghapus iklan identik tersebut untuk materi CSAM,” kata Paul.
TTP telah melaporkan temuan ini ke National Center for Missing and Exploited Children’s CyberTipline, yang memungkinkan orang melaporkan konten pelecehan seksual anak online. Meta juga telah meminta dua organisasi keamanan online untuk memberikan komentar terkait temuan ini, termasuk Tech Coalition dan Revenge Porn Helpline di Inggris yang memuji kemitraan Meta dengan StopNCII.org.
Baca Juga:
Temuan ini menunjukkan bahwa meskipun Meta telah meluncurkan teknologi AI baru untuk mendeteksi iklan yang melanggar, sistem tersebut masih memiliki celah yang dapat dieksploitasi oleh aktor jahat. Kebijakan Meta menyatakan bahwa semua iklan ditinjau sebelum dipublikasikan, dengan sistem yang “terutama” menggunakan “alat otomatis” untuk memeriksanya terhadap kebijakan perusahaan. Namun, temuan ini membuktikan bahwa proses review tersebut masih belum sepenuhnya efektif dalam menangkal konten eksploitasi seksual anak yang dihasilkan AI.
Komentar
Belum ada komentar.