Survei: Separuh Remaja Terpapar Konten Seksual AI, Banyak yang Khawatir

Telset.id – Hampir setengah dari remaja usia sekolah menengah di Amerika Serikat telah melihat konten seksual yang dihasilkan oleh kecerdasan buatan atau AI. Temuan ini diungkap dalam survei terbaru dari organisasi nirlaba Common Sense Media, yang menyoroti dampak mendalam dan kekhawatiran besar di kalangan anak muda.

Survei nasional yang representatif ini melibatkan 1.314 remaja berusia 13 hingga 17 tahun, serta data tambahan dari wawancara dan kelompok fokus. Konten seksual buatan AI dalam survei ini didefinisikan sebagai gambar atau video telanjang palsu (deepfake) dari orang sungguhan, materi pornografi, atau konten seksual lain yang dibuat oleh AI.

Penelitian ini dilakukan di tengah meningkatnya kasus deepfake nonkonsensual yang melibatkan anak di bawah umur di berbagai sekolah menengah di AS. Konten tersebut sebagian besar dibuat dan disebarluaskan oleh teman sebaya mereka sendiri.

“Untuk sebagian besar remaja, pertama, mereka terpapar konten ini — tetapi kedua, mereka juga membuat dan membagikan konten ini,” ujar Supreet Mann, direktur riset Common Sense Media dan penulis utama laporan tersebut, kepada Futurism. “Dan ketika mereka melakukannya, konten itu sering kali menggambarkan orang yang mereka kenal secara pribadi atau diri mereka sendiri.”

Survei tersebut menemukan bahwa dari remaja yang melaporkan melihat konten seksual buatan AI, sekitar 64 persen mengatakan konten tersebut menggambarkan selebritas yang mereka kenali. Sementara itu, 24 persen lainnya menyatakan bahwa konten tersebut menunjukkan diri mereka sendiri atau seseorang yang mereka kenal di dunia nyata.

Sekitar delapan persen remaja mengaku pernah membuat deepfake atau konten seksual buatan AI sendiri. Angka ini lebih rendah dibandingkan dengan 13 persen remaja lainnya yang melaporkan mengetahui seseorang yang telah menghasilkan konten seksual menggunakan AI. Dari kelompok terakhir, lebih dari 60 persen mencatat bahwa “konten tersebut menggambarkan diri mereka sendiri atau orang yang mereka kenal secara pribadi, seperti teman sebaya, teman, atau mantan pasangan romantis.”

Kekhawatiran akan dampak konten semacam ini mendorong banyak remaja untuk mengubah perilaku mereka di dunia maya. Sekitar 67 persen remaja yang disurvei menyatakan setidaknya cukup khawatir bahwa mereka bisa menjadi korban deepfake. Akibatnya, hampir 40 persen di antaranya telah membuat akun media sosial mereka menjadi privat, membatasi apa yang mereka bagikan, atau bahkan menghapus akun media sosial mereka sepenuhnya.

“Sekitar dua pertiga remaja menyatakan bahwa mereka khawatir tentang hal ini, dan banyak dari anak-anak muda itu mengubah perilaku online mereka karena ketakutan itu… itu adalah indikasi yang sangat menarik tentang bagaimana anak muda memikirkan konten ini, dan mereka memikirkan tentang kurangnya kendali yang mereka miliki di ruang ini,” jelas Mann.

Meskipun berpikir kritis tentang kehadiran online bukanlah hal yang buruk, Mann menambahkan bahwa saat ini beban untuk mengatasi banjir deepfake ini sebagian besar jatuh ke pundak para remaja itu sendiri. “Mengapa anak-anak muda dipaksa untuk mengatur diri mereka sendiri,” tanya sang peneliti, “padahal ini seharusnya bukan beban mereka untuk ditanggung?”

Kekhawatiran ini sangat beralasan. Dengan sebuah foto dan beberapa klik, aplikasi “nudify” yang mudah diakses secara online dan melalui toko aplikasi telah mempermudah proses untuk menelanjangi seseorang secara artifisial tanpa persetujuan mereka. Chatbot umum, yang paling terkenal adalah Grok milik xAI, juga telah digunakan untuk membuat deepfake, termasuk yang melibatkan anak di bawah umur.

Skandal deepfake telah mengguncang berbagai kota di AS, terutama berdampak pada anak perempuan. Mereka menggambarkan mengalami kecemasan yang menghancurkan, serangan panik, pikiran untuk bunuh diri, dan hilangnya kepercayaan yang mendalam terhadap teman sebaya dan lingkungan sosial mereka sebagai akibat dari konten yang mengganggu tersebut. Beberapa remaja pembuat pornografi deepfake, yang beberapa di antaranya mengaku telah menghasilkan ratusan gambar, telah ditangkap dan menghadapi tuntutan pidana. Perlu diketahui, gambar seksual buatan AI yang menggambarkan anak di bawah umur dianggap sebagai materi pelecehan seksual anak ilegal berdasarkan hukum federal.

Satu keluarga di Louisiana bahkan menggugat distrik sekolah setelah putri mereka yang berusia 13 tahun dikeluarkan karena secara fisik menghadapi teman sekelas yang telah membuat dan menyebarkan deepfake nonkonsensual dirinya dan teman-temannya. Dalam gugatan tersebut disebutkan bahwa anak laki-laki pembuat gambar tersebut tidak menerima hukuman apa pun.

Sisi positif dari survei ini, menurut Mann, adalah banyak anak yang ingin berbicara dengan orang dewasa tepercaya tentang dunia baru yang aneh ini, tetapi mereka tidak tahu caranya. “Hanya satu dari lima [remaja] yang mengatakan bahwa mereka pernah berbicara dengan orang dewasa tepercaya tentang hal ini. Namun, sepertiga remaja mengatakan bahwa mereka ingin berbicara dengan seseorang, mereka hanya tidak tahu bagaimana memulai percakapan itu,” kata Mann.

Remaja yang lebih muda, tambahnya, lebih cenderung ingin berbicara dengan orang dewasa tepercaya tentang materi semacam ini dibandingkan anak yang lebih besar. Sementara itu, satu dari sepuluh remaja menyatakan bahwa mereka akan merasa paling nyaman berbicara dengan chatbot tentang apa yang mereka lihat.

Bagi Mann, tanggapan tersebut menandakan bahwa “anak-anak terbuka untuk melakukan percakapan ini,” dan bahwa “memulai sejak dini dan menciptakan ruang untuk percakapan itu adalah kunci.” Ada “jendela peluang unik bagi orang tua untuk mulai melakukan percakapan ini dengan anak-anak mereka, dan untuk tidak menunda percakapan itu,” tambah Mann. “Kita tidak ingin anak-anak kita beralih ke chatbot AI untuk melakukan percakapan, atau tidak melakukan percakapan ini sama sekali.”

Selain orang tua, sekolah, pembuat kebijakan, dan perusahaan teknologi — yang membangun alat yang digunakan untuk menghasilkan materi ini dan menjalankan platform tempat anak muda menemukan konten seksual buatan AI — juga perlu proaktif dalam memahami materi semacam ini dan mengurangi dampak buruknya. Salah satu tantangannya adalah membatasi pembuatan deepfake sejak awal. Upaya ini mendorong beberapa pejabat setempat untuk melihat toko aplikasi sebagai titik tersedak dalam rantai pasokan deepfake: minggu lalu, kota San Francisco memerintahkan Apple dan Google untuk menghapus aplikasi “nudify” dari toko aplikasi masing-masing.

Google Siapkan Senjata untuk melawan ancaman ini, dan Adobe Gunakan AI untuk deteksi konten deepfake. “Ini benar-benar sesuatu yang perlu ditangani dari semua sudut,” kata Mann.

Sementara itu, anak-anaklah yang menghadapi dampak nyata dari pornografi buatan dan deepfake dalam kehidupan pribadi dan sosial mereka. “Kami tumbuh seiring dengan pertumbuhan AI. Kami tumbuh bersama. Orang dewasa tidak memiliki pengalaman hidup yang sama seperti kami,” kata seorang gadis berusia 17 tahun kepada para peneliti. “Mereka tidak mengerti betapa maju dan intensnya AI.”