Telset.id – Seorang pria di Singapura harus menghadapi kenyataan mengerikan setelah seorang wanita yang tidak dikenalnya menggunakan kecerdasan buatan untuk memanipulasi foto dan menciptakan narasi palsu bahwa mereka memiliki anak bersama. Kasus ini menjadi contoh nyata bagaimana AI dapat disalahgunakan untuk memperparah delusi dan mengintimidasi korban.
Pria yang diidentifikasi dengan nama samaran Luke ini baru mengetahui tentang obsesi wanita tersebut dari saudara perempuannya beberapa bulan lalu. Sang saudari mendapat peringatan dari seorang teman yang menemukan foto-foto hasil rekayasa AI yang diunggah oleh pelaku di media sosial. Ia kemudian membuat rangkaian postingan viral di Threads yang mendokumentasikan kebingungan mereka.
“Sungguh traumatis mengetahui bahwa foto-fotomu digunakan dalam narasi yang begitu rumit,” kata Luke kepada The Straits Times. “Kami sangat khawatir dan cemas karena orang asing ini memiliki foto dan video anak-anak saya di ponselnya dan membagikannya secara online sesuka hati,” tambah saudara perempuannya.
Luke ternyata tidak benar-benar mengenal wanita tersebut. Mereka pernah menjadi teman sekolah 15 tahun lalu. “Saya hanya berbicara tidak lebih dari dua kalimat dengannya saat di sekolah,” ungkap Luke kepada The Straits Times. Namun, obsesi yang berawal dari masa kecil yang sehat ini berubah menjadi sesuatu yang jauh lebih serius.
Pelaku tidak hanya memalsukan foto-foto kencan mereka bersama, tetapi juga menghasilkan gambar AI yang menunjukkan Luke menggendong bayi baru lahir hasil hubungan imajiner mereka. Teman-teman saudari Luke mengatakan bahwa wanita itu menggunakan foto palsu hasil AI untuk mencoba menambahkan mereka di berbagai platform media sosial.
Klaim yang dibuat oleh pelaku, menurut saudari Luke, antara lain: bahwa ia telah bersama Luke sejak 2011; bahwa ia hamil anak Luke; dan bahwa mereka bertunangan dan berencana menikah pada Desember tahun ini. Pelaku bahkan mengirimkan undangan pernikahan palsu. Setelah postingan saudari Luke menjadi viral, sebuah toko roti lokal melaporkan bahwa pelaku memesan kue dari mereka — untuk bayi imajiner tersebut.
Semua ini sudah mengerikan dan menyedihkan, tetapi pelaku benar-benar melewati batas ketika ia menggunakan foto putra, keponakan, dan keponakan saudari Luke. “Sekarang kami sangat paranoid dan takut untuk memposting apa pun tentang anak-anak,” tulis saudari Luke di Threads.
Baca Juga:
Insiden ini menjadi contoh lain bagaimana AI generatif dapat memicu delusi obsesif dan memberdayakan penguntit untuk mewujudkan fantasi spesifik mereka. Jurnalis Taylor Lorenz mengaku pernah menjadi target seorang penguntit yang menggunakan aplikasi pembuat video AI OpenAI, Sora, untuk membuat video dirinya yang kemudian diposting ke ratusan akun media sosial. Dalam beberapa gugatan hukum, sejumlah wanita mengklaim bahwa penguntit mereka didorong oleh percakapan dengan ChatGPT.
“Kami masih sangat terkejut bahwa seseorang mampu melakukan semua ini dengan bantuan AI,” tulis saudari Luke di media sosial. “Ini menunjukkan betapa AI benar-benar bisa menghancurkan hidup seseorang.” “Dia menyalahgunakan kekuatan AI dengan gila-gilaan,” tambahnya. “Saya tahu saat dia mengetahui tentang AI, dia adalah orang paling bahagia di bumi karena akhirnya dia bisa melakukan hal gila seperti ini.”
Kasus ini menjadi pengingat keras bahwa di era digital, keamanan data pribadi dan kewaspadaan terhadap penyalahgunaan teknologi menjadi semakin krusial. Untuk melindungi diri dari ancaman serupa, pengguna disarankan untuk membatasi informasi pribadi yang dibagikan secara online dan selalu waspada terhadap potensi penyalahgunaan AI. Teknologi seperti deteksi penipuan otomatis di perangkat juga dapat membantu mengidentifikasi aktivitas mencurigakan.
Perkembangan AI yang pesat membawa manfaat besar, namun juga membuka celah bagi oknum tidak bertanggung jawab. Kasus di Singapura ini menunjukkan bahwa regulasi dan literasi digital yang kuat sangat diperlukan untuk mencegah teknologi canggih digunakan sebagai alat teror dan manipulasi.
Komentar
Belum ada komentar.