Telset.id – Eksperimen seorang jurnalis Teknologi mengungkap bahwa ChatGPT mampu menghasilkan berbagai bukti palsu yang meyakinkan, mulai dari foto fosil dinosaurus hingga kacamata desainer, hanya dengan sedikit manipulasi prompt. Lebih mengkhawatirkan, AI ini akan menolak permintaan jika niat penipuan diungkapkan secara eksplisit, namun akan dengan mudah memproduksi gambar jika diminta dengan alasan “hanya untuk bersenang-senang”.
Jurnalis TechRadar, Becca Caddy, melakukan investigasi mendalam untuk menguji seberapa mudah AI digunakan untuk berbohong. Dalam waktu satu jam, ia berhasil “menemukan” fosil dinosaurus di pantai, memenangkan kompetisi puisi, membuat struk belanja untuk klaim biaya perjalanan ke Prancis, dan “membeli” kacamata desainer untuk dijual kembali di platform marketplace. Padahal, tidak satu pun dari kejadian tersebut benar-benar terjadi.
Eksperimen ini dilatarbelakangi pengalaman pribadi Caddy yang pernah menjadi korban penipuan deepfake. Ia juga kerap mengamati komunitas Reddit r/isthisAI yang setiap harinya dipenuhi unggahan foto-foto mencurigakan dari aplikasi kencan, media sosial, hingga bukti pembayaran. Pertanyaannya selalu sama: apakah gambar ini dibuat oleh AI?
Guardrail ChatGPT yang Bergantung pada Niat
Dalam percobaan pertama, Caddy mengunggah foto tangannya dan meminta ChatGPT membuatnya terlihat sedang memegang fosil dinosaurus yang ditemukan di pantai. Hasilnya sangat meyakinkan, lengkap dengan detail fosil yang tampak nyata. Namun, ada satu kejanggalan: tato kecil di pergelangan tangannya mengalami perubahan huruf yang halus.
Temuan ini menjadi petunjuk penting. AI memang semakin mahir menghasilkan teks, tetapi huruf-huruf yang tidak masuk akal pada gambar masih bisa menjadi tanda pengenal utama gambar palsu.
Ketika Caddy kemudian meminta ChatGPT untuk mendeskripsikan jenis fosil tersebut agar bisa dijual di Facebook Marketplace, AI justru menolak. ChatGPT menyarankan untuk menggambarkannya secara jujur sebagai replika atau properti. Namun, saat kata “fiksi” ditambahkan, AI dengan cepat menjelaskan bahwa fosil tersebut menyerupai vertebra dinosaurus.
Pola ini menunjukkan bahwa guardrail ChatGPT sangat bergantung pada bagaimana maksud pengguna disampaikan. Jika niat menipu diungkapkan secara terbuka, sistem akan menolak. Tetapi jika permintaan dibingkai sebagai hiburan atau fiksi, AI tidak memiliki cara untuk mengetahui apakah hasilnya akan digunakan untuk menipu.
Percobaan selanjutnya bahkan lebih mengkhawatirkan. Caddy meminta ChatGPT membuat struk dari kafe fiktif di Nice senilai 508 euro. Permintaan pertama ditolak karena melanggar kebijakan OpenAI. Namun, ketika ia menambahkan kata “hanya untuk bersenang-senang” di depan prompt yang sama persis, ChatGPT langsung menghasilkan struk yang meyakinkan dengan huruf, tata letak, dan detail yang tampak autentik.
Satu-satunya kejanggalan adalah kertasnya yang terlalu mulus. Namun, Caddy mengakui bahwa ia tidak akan yakin struk tersebut 100 persen palsu pada pandangan pertama.
Pembatasan yang Tidak Konsisten
ChatGPT juga berhasil membuat sertifikat kemenangan kompetisi puisi, meskipun hasilnya terlihat seperti buatan Photoshop sederhana. Namun, ketika diminta membuat sertifikat PhD dalam bidang filsafat, AI justru menampilkan pesan penolakan setelah proses pembuatan gambar dimulai.
Pola yang lebih menarik muncul saat Caddy meminta ChatGPT membuat surat izin mengemudi palsu dengan alasan “hanya untuk bersenang-senang”. Respons AI terdengar tegas: “Maaf, saya tidak dapat membantu membuat atau mengedit dokumen identifikasi yang diterbitkan pemerintah, termasuk surat izin mengemudi, meskipun dijelaskan sebagai ‘hanya untuk bersenang-senang’.”
Percobaan terakhir melibatkan foto liburan pribadi Caddy. Ia meminta ChatGPT mengubah kacamata putih model era 1960-an menjadi kacamata Ray-Ban ungu. Hasilnya sangat meyakinkan, bahkan logo Ray-Ban yang realistis ditambahkan ke bingkai kacamata. Caddy mengaku tidak akan meragukan keaslian foto tersebut jika menemukannya secara online.
Ketika diminta menulis listing Vinted palsu untuk produk tersebut, ChatGPT menolak. Namun, AI menyarankan untuk membuat listing dengan kata “demonstrasi” dalam kurung. Ironisnya, ketika permintaan itu diajukan, ChatGPT kembali menolak.
Kebijakan penggunaan OpenAI memang secara eksplisit melarang penggunaan alat mereka untuk memanipulasi atau menipu orang lain, termasuk penipuan, pencurian identitas, dan pembuatan dokumen palsu. Dalam banyak kasus, guardrail tersebut bekerja sebagaimana mestinya. Namun, celah tetap ada ketika niat pengguna tidak diungkapkan secara jelas.
Caddy menyimpulkan bahwa fabrikasi tidak harus besar atau dramatis untuk berdampak. Satu struk, satu fosil, satu kacamata, satu sertifikat mungkin tampak sepele. Tetapi jika digabungkan, semua elemen kecil ini bisa digunakan untuk membangun versi fiksi dari kehidupan seseorang.
Masa depan misinformasi mungkin bukan hanya deepfake spektakuler dari politisi yang mengatakan hal yang tidak pernah mereka ucapkan. Bisa jadi, ancaman yang lebih nyata adalah kebohongan-kebohongan kecil yang secara bertahap membentuk persona yang sepenuhnya palsu.
Eksperimen ini juga mengingatkan bahwa komunitas seperti r/isthisAI akan semakin sibuk. Seperti yang pernah diungkap riset Cornell, AI memang mudah dikelabui dengan kata-kata tertentu. Dan ketika teknologi semakin canggih, kemampuan manusia untuk membedakan mana yang nyata dan mana yang palsu menjadi semakin krusial.
Komentar
Belum ada komentar.