Telset.id – Meta mendapat tekanan dari Oversight Board untuk memperkuat perlindungan bagi pengguna biasa yang menjadi target deepfake seksual. Board menilai sistem Meta saat ini lebih berpihak pada figur publik.
Oversight Board Meta merekomendasikan agar perusahaan menambahkan impersonasi buatan AI ke dalam kebijakan Eksploitasi Seksual Dewasa. Board berargumen bahwa gambar dan video semacam itu bersifat non-konsensual secara default.
Board juga mendorong Meta mengizinkan pengguna menunjuk “akun terhubung,” seperti teman atau keluarga tepercaya, yang bisa melaporkan potensi pelanggaran atas nama mereka. Rekomendasi ini muncul setelah penyelidikan terhadap insiden di mana Meta mengabaikan laporan pengguna tentang deepfake seksual temannya di Instagram.
Kesenjangan Perlindungan untuk Publik
Penyelidikan dimulai setelah Board menerima banding dari pengguna yang melaporkan video buatan AI di Instagram. Video tersebut memperlihatkan seorang wanita sedang menyesuaikan pakaiannya, dengan pakaian dalam terlihat di beberapa frame. Pelapor mengaku sebagai teman dari orang yang diimpersonasi dalam video, sementara pemilik akun asli sudah menonaktifkan akunnya.
Dua pengguna awalnya melaporkan video itu ke Meta, namun perusahaan tidak menghapus deepfake tersebut. Bahkan setelah banding diajukan ke Board, Meta hanya mengubah unggahan menjadi khusus dewasa dan menyimpulkan tidak melanggar standar komunitas.
Meta beralasan bahwa saat laporan awal masuk, tidak ada indikasi bahwa individu dalam deepfake AI adalah orang nyata. Jika individu yang digambarkan sendiri yang melapor, video itu akan melanggar kebijakan Eksploitasi Seksual Dewasa. Laporan mandiri itu berfungsi sebagai tanda non-konsen yang jelas.
Indikator kredibel lainnya di mata Meta termasuk laporan dari penegak hukum, media, atau mitra tepercaya. Keterangan atau judul halaman yang menunjukkan gambar atau video dibagikan dengan “cara dendam atau sensasional” juga akan dipertimbangkan.
Board menyatakan bahwa respons Meta terhadap investigasi menunjukkan satu-satunya cara bagi non-figur publik untuk membuktikan non-konsen adalah dengan melapor sendiri. Jalur lain seperti melibatkan penegak hukum atau media sebagian besar hanya bisa diakses oleh figur publik.
Baca Juga:
Rekomendasi untuk Perubahan Sistemik
Board merekomendasikan agar impersonasi seksual AI menjadi kategori terpisah dari pelecehan dan ketelanjangan dalam formulir pelaporan dan banding konten Meta. Saat ini, hanya penduduk Texas dan Florida yang memiliki akses ke formulir khusus yang mencantumkan deepfake intim sebagai alasan pelaporan.
Board ingin semua pengguna Meta memiliki akses ke formulir tersebut, karena “penyalahgunaan intim non-konsensual buatan AI, termasuk impersonasi seksual, adalah masalah global.” Meta diwajibkan merespons rekomendasi ini, namun tidak wajib menerapkannya.
Jika Meta memilih mengadopsi rekomendasi tersebut, Board akan memantau implementasinya. Untuk kasus spesifik yang memicu investigasi ini, Board telah membatalkan keputusan Meta yang membiarkan video tetap tayang dan mewajibkan perusahaan menghapus unggahan tersebut.
“Jelas bahwa skala, kecepatan, dan kecanggihan alat AI telah mengakibatkan proliferasi konten non-konsensual seksual buatan AI secara global,” tulis Board dalam laporan investigasi. “Penyebaran video deepfake seksual menyebabkan kerugian reputasi dan psikologis, yang secara tidak proporsional berdampak pada perempuan dan anak perempuan, serta memiliki efek menghambat partisipasi dalam kehidupan sosial dan politik.”
Ini bukan pertama kalinya Board mengkritik Meta dalam hal konten AI dan moderasi. Pada pertengahan 2025, Board menyebut ketidakmampuan Meta menegakkan aturan secara konsisten sebagai “tidak koheren dan tidak dapat dibenarkan.”
Pada Maret lalu, Board mendesak Meta membuat aturan baru untuk konten AI yang terpisah dari kebijakan misinformasi. Rekomendasi itu berasal dari investigasi yang melibatkan video buatan AI yang mengklaim menunjukkan bangunan rusak di kota Haifa, Israel. Video itu diunggah oleh akun yang mengaku sebagai outlet berita tetapi sebenarnya dijalankan oleh pengguna di Filipina.
Board menekankan bahwa sistem Meta saat ini tidak memadai untuk melindungi pengguna biasa dari bahaya deepfake seksual. Dengan semakin canggihnya alat AI, risiko penyalahgunaan akan terus meningkat jika tidak ada perubahan kebijakan yang berarti.
Keputusan Board untuk membalikkan keputusan Meta dalam kasus ini menunjukkan bahwa perusahaan perlu mengevaluasi ulang pendekatannya terhadap konten buatan AI. Tanpa perubahan, pengguna biasa akan terus menjadi korban tanpa perlindungan yang memadai.
Telset.id – Meta mendapat tekanan dari Oversight Board untuk memperkuat perlindungan bagi pengguna biasa yang menjadi target deepfake seksual. Board menilai sistem Meta saat ini lebih berpihak pada figur publik.
Oversight Board Meta merekomendasikan agar perusahaan menambahkan impersonasi buatan AI ke dalam kebijakan Eksploitasi Seksual Dewasa. Board berargumen bahwa gambar dan video semacam itu bersifat non-konsensual secara default.
Board juga mendorong Meta mengizinkan pengguna menunjuk “akun terhubung,” seperti teman atau keluarga tepercaya, yang bisa melaporkan potensi pelanggaran atas nama mereka. Rekomendasi ini muncul setelah penyelidikan terhadap insiden di mana Meta mengabaikan laporan pengguna tentang deepfake seksual temannya di Instagram.
Kesenjangan Perlindungan untuk Publik
Penyelidikan dimulai setelah Board menerima banding dari pengguna yang melaporkan video buatan AI di Instagram. Video tersebut memperlihatkan seorang wanita sedang menyesuaikan pakaiannya, dengan pakaian dalam terlihat di beberapa frame. Pelapor mengaku sebagai teman dari orang yang diimpersonasi dalam video, sementara pemilik akun asli sudah menonaktifkan akunnya.
Dua pengguna awalnya melaporkan video itu ke Meta, namun perusahaan tidak menghapus deepfake tersebut. Bahkan setelah banding diajukan ke Board, Meta hanya mengubah unggahan menjadi khusus dewasa dan menyimpulkan tidak melanggar standar komunitas.
Meta beralasan bahwa saat laporan awal masuk, tidak ada indikasi bahwa individu dalam deepfake AI adalah orang nyata. Jika individu yang digambarkan sendiri yang melapor, video itu akan melanggar kebijakan Eksploitasi Seksual Dewasa. Laporan mandiri itu berfungsi sebagai tanda non-konsen yang jelas.
Indikator kredibel lainnya di mata Meta termasuk laporan dari penegak hukum, media, atau mitra tepercaya. Keterangan atau judul halaman yang menunjukkan gambar atau video dibagikan dengan “cara dendam atau sensasional” juga akan dipertimbangkan.
Board menyatakan bahwa respons Meta terhadap investigasi menunjukkan satu-satunya cara bagi non-figur publik untuk membuktikan non-konsen adalah dengan melapor sendiri. Jalur lain seperti melibatkan penegak hukum atau media sebagian besar hanya bisa diakses oleh figur publik.
Baca Juga:
Rekomendasi untuk Perubahan Sistemik
Board merekomendasikan agar impersonasi seksual AI menjadi kategori terpisah dari pelecehan dan ketelanjangan dalam formulir pelaporan dan banding konten Meta. Saat ini, hanya penduduk Texas dan Florida yang memiliki akses ke formulir khusus yang mencantumkan deepfake intim sebagai alasan pelaporan.
Board ingin semua pengguna Meta memiliki akses ke formulir tersebut, karena “penyalahgunaan intim non-konsensual buatan AI, termasuk impersonasi seksual, adalah masalah global.” Meta diwajibkan merespons rekomendasi ini, namun tidak wajib menerapkannya.
Jika Meta memilih mengadopsi rekomendasi tersebut, Board akan memantau implementasinya. Untuk kasus spesifik yang memicu investigasi ini, Board telah membatalkan keputusan Meta yang membiarkan video tetap tayang dan mewajibkan perusahaan menghapus unggahan tersebut.
“Jelas bahwa skala, kecepatan, dan kecanggihan alat AI telah mengakibatkan proliferasi konten non-konsensual seksual buatan AI secara global,” tulis Board dalam laporan investigasi. “Penyebaran video deepfake seksual menyebabkan kerugian reputasi dan psikologis, yang secara tidak proporsional berdampak pada perempuan dan anak perempuan, serta memiliki efek menghambat partisipasi dalam kehidupan sosial dan politik.”
Ini bukan pertama kalinya Board mengkritik Meta dalam hal konten AI dan moderasi. Pada pertengahan 2025, Board menyebut ketidakmampuan Meta menegakkan aturan secara konsisten sebagai “tidak koheren dan tidak dapat dibenarkan.”
Pada Maret lalu, Board mendesak Meta membuat aturan baru untuk konten AI yang terpisah dari kebijakan misinformasi. Rekomendasi itu berasal dari investigasi yang melibatkan video buatan AI yang mengklaim menunjukkan bangunan rusak di kota Haifa, Israel. Video itu diunggah oleh akun yang mengaku sebagai outlet berita tetapi sebenarnya dijalankan oleh pengguna di Filipina.
Board menekankan bahwa sistem Meta saat ini tidak memadai untuk melindungi pengguna biasa dari bahaya deepfake seksual. Dengan semakin canggihnya alat AI, risiko penyalahgunaan akan terus meningkat jika tidak ada perubahan kebijakan yang berarti.
Keputusan Board untuk membalikkan keputusan Meta dalam kasus ini menunjukkan bahwa perusahaan perlu mengevaluasi ulang pendekatannya terhadap konten buatan AI. Tanpa perubahan, pengguna biasa akan terus menjadi korban tanpa perlindungan yang memadai.
Komentar
Belum ada komentar.