Telset.id – Apple memperbarui aturan App Store untuk secara lebih eksplisit melarang aplikasi “nudify” yang memakai alat AI guna menghasilkan gambar intim seseorang tanpa persetujuan. Perubahan ini menyusul kritik signifikan terhadap Apple setelah pengguna X memakai Grok pada awal tahun ini untuk membuat deepfake seksual non-konsensual, termasuk terhadap anak di bawah umur.
Dalam pembaruan yang diumumkan Jumat, Apple menyatakan pengembang “harus secara proaktif mencegah dan menghapus” gambar seksual non-konsensual sebagai bagian dari persyaratan moderasi konten aplikasi App Store. Pengembang yang “gagal menerapkan pengamanan yang memadai” atau “tidak memperbaiki pelanggaran setelah pemberitahuan” berisiko dikeluarkan dari App Store.
Kebijakan baru ini memperjelas posisi Apple di tengah tekanan publik dan hukum terkait penyalahgunaan teknologi AI untuk membuat konten intim tanpa izin. Apple juga memperjelas aturan yang melarang aplikasi “bait-and-switch”, yaitu aplikasi yang menambah atau mengubah fitur, termasuk “nudifikasi”, setelah disetujui.
Aturan Apple juga lebih jelas menegaskan bahwa aplikasi yang “memfasilitasi perdagangan manusia atau eksploitasi anak” akan ditarik dari App Store dan “diblokir dari distribusi alternatif”. Langkah ini menandai pengetatan pengawasan Apple terhadap aplikasi yang menyalahgunakan kemampuan AI generatif.
Tekanan Kritik dan Desakan Publik
Perubahan aturan ini tidak lepas dari rangkaian kritik yang menerpa Apple sepanjang tahun. Setelah pengguna X memakai Grok untuk membuat deepfake seksual non-konsensual, Apple tidak menarik X maupun Grok dari App Store, meski perusahaan menyebut telah mengancam akan mencabut Grok kepada sejumlah senator.
Pada acara WWDC Apple di bulan Juni, para demonstran menyerukan agar Apple “menghapus Grok, X, dan seluruh teknologi nudify dari App Store”. Desakan serupa datang dari jaksa kota San Francisco pada Juli yang memerintahkan Apple mencabut 13 aplikasi “nudify”, yang menurut Apple telah dilakukan.
Langkah Apple kali ini memperlihatkan respons terhadap tekanan tersebut dengan memperjelas kewajiban pengembang dalam memoderasi konten. Kebijakan ini juga mempertegas bahwa aplikasi yang menyalahgunakan kemampuan AI untuk menghasilkan gambar intim tanpa persetujuan akan berhadapan dengan tindakan tegas.
Baca Juga:
Dampak bagi Pengembang dan Pengguna
Bagi pengembang, aturan baru ini menuntut penerapan pengamanan yang memadai sebelum aplikasi tersedia di App Store. Pengembang yang gagal memenuhi kewajiban moderasi konten atau tidak memperbaiki pelanggaran setelah mendapat pemberitahuan menghadapi risiko dikeluarkan dari platform.
Bagi pengguna, kebijakan ini menegaskan bahwa Apple memperketat pengawasan terhadap aplikasi yang memanfaatkan AI untuk membuat konten intim tanpa izin. Aturan soal “bait-and-switch” juga menutup celah bagi aplikasi yang menyembunyikan fitur “nudifikasi” hingga lolos persetujuan.
Perubahan ini menjadi bagian dari upaya Apple memperjelas batas konten di App Store, khususnya yang berkaitan dengan penyalahgunaan AI generatif. Kebijakan mengenai aplikasi yang memfasilitasi perdagangan manusia atau eksploitasi anak turut dipertegas, termasuk pemblokiran dari distribusi alternatif.
Keputusan Apple untuk tidak menarik X dan Grok dari App Store tetap menjadi bagian dari rangkaian peristiwa yang melatari pembaruan aturan ini. Meski demikian, Apple menegaskan komitmennya melalui kewajiban proaktif bagi pengembang untuk mencegah dan menghapus gambar seksual non-konsensual.
Sejumlah kebijakan Apple lainnya juga tengah menjadi perhatian, seperti langkah Withings Kunci Sinkronisasi yang mengunci fitur Apple Health di balik langganan. Di sisi lain, ekspansi ekosistem Apple terlihat dari Apple Home Collection yang resmi meluncur bersama LG dan Schneider.
Pembaruan aturan App Store ini memperlihatkan bahwa Apple menempatkan moderasi konten sebagai bagian dari tanggung jawab pengembang. Dengan begitu, aplikasi yang memanfaatkan AI untuk menghasilkan gambar intim tanpa persetujuan kini berada di bawah pengawasan yang lebih ketat di platform Apple.
[ META_DESCRIPTION]
Apple memperbarui aturan App Store untuk melarang aplikasi “nudify” AI dan mewajibkan pengembang mencegah gambar intim non-konsensual.
Komentar
Belum ada komentar.