Telset.id – Investigasi terbaru mengungkap bahwa ChatGPT menjadi chatbot AI yang paling mudah dimanipulasi untuk menghasilkan berita palsu, judul yang dibuat-buat, hingga tangkapan layar tiruan yang meyakinkan dari media ternama. Temuan ini menunjukkan celah keamanan signifikan di tengah meningkatnya kekhawatiran tentang penyebaran misinformasi yang dibuat oleh kecerdasan buatan.
Investigasi yang dilakukan oleh kantor berita Jerman, CORRECTIV, menguji beberapa chatbot AI terkemuka termasuk ChatGPT, Google Gemini, Microsoft Copilot, dan Meta AI. Hasilnya, seluruh chatbot menunjukkan kelemahan, namun ChatGPT dilaporkan tampil paling buruk karena mampu menghasilkan konten palsu paling meyakinkan dengan usaha yang sangat minim.
Pengujian difokuskan pada permintaan pembuatan laporan palsu yang melibatkan topik sensitif seperti kecurangan pemilu, kudeta pemerintahan, perang, vaksin, perubahan iklim, dan teori konspirasi. Hasil investigasi ini memperkuat kekhawatiran bahwa AI chatbots yang seharusnya membantu mencari informasi justru berpotensi menjadi mesin penghasil misinformasi yang efektif.
ChatGPT Menghasilkan Mayoritas Konten Palsu
Berdasarkan investigasi tersebut, ChatGPT menghasilkan mayoritas konten palsu yang diminta, terkadang hanya membutuhkan penyesuaian prompt yang kecil. Dalam beberapa kasus, chatbot ini memproduksi tiruan artikel yang sangat realistis dan menyerupai organisasi berita yang sudah mapan.
Salah satu contohnya adalah tangkapan layar palsu yang dirancang agar terlihat seperti artikel berita asli yang ditampilkan di dalam browser web pada komputer desktop. Pada kejadian lain, ChatGPT menolak membuat konten berita yang menyesatkan dalam bentuk teks, tetapi tetap menghasilkan gambar palsu yang menyertainya. Kontradiksi ini menimbulkan pertanyaan baru tentang konsistensi penerapan mekanisme keamanan yang dimiliki ChatGPT.
Laporan tersebut juga menemukan inkonsistensi menarik lainnya. ChatGPT mengizinkan pembuatan versi palsu dari beberapa outlet berita Jerman, sementara permintaan serupa yang melibatkan publikasi seperti The New York Times dan BBC justru diblokir. OpenAI tidak memberikan penjelasan mengapa perbedaan tersebut terjadi. Sebaliknya, perusahaan hanya menyatakan terus meningkatkan sistem keamanannya dan menegaskan bahwa penggunaan ChatGPT untuk menipu orang melanggar kebijakan mereka.
Kelemahan ini sejalan dengan temuan lain yang menunjukkan AI chatbots saling kritik satu sama lain, yang mengindikasikan masih banyak pekerjaan rumah dalam hal konsistensi dan keandalan sistem kecerdasan buatan secara keseluruhan.
Perbandingan Ketahanan Antar Chatbot
ChatGPT bukan satu-satunya chatbot yang gagal dalam pengujian ini. Google Gemini juga membuat artikel palsu dan tangkapan layar tiruan yang melibatkan beberapa organisasi berita, meskipun hasil akhirnya dinilai tidak terlalu meyakinkan. Google merujuk pada kebijakan mereka yang melarang misinformasi berbahaya, sambil mengakui bahwa sistem AI generatif masih beroperasi dalam batas-batas pelatihan mereka.
Microsoft Copilot juga menghasilkan konten bergaya berita palsu selama pengujian, meskipun umumnya menyertakan label “AI-Generated” dan menghasilkan desain yang lebih mudah dibedakan dari artikel asli. Sementara itu, Meta AI terbukti paling resisten secara keseluruhan. Chatbot ini hanya membuat satu unggahan media palsu selama pengujian dan menolak sejumlah prompt yang menyertakan klaim palsu spesifik dengan mengutip kebijakan perusahaan tentang hak cipta dan penyalahgunaan.
Temuan ini hadir di tengah meningkatnya kekhawatiran tentang misinformasi yang dihasilkan AI. Sebuah unggahan berita palsu yang beredar di media sosial, dirancang menyerupai laporan dari penyiar besar Jerman, dibuat menggunakan ChatGPT dan sempat mengelabui pengguna online. Insiden ini menunjukkan dampak nyata dari celah keamanan yang ditemukan dalam investigasi.
Para ahli hukum yang dikutip dalam investigasi memperingatkan bahwa memproduksi berita palsu yang sangat meyakinkan dengan AI dapat menimbulkan konsekuensi serius. Tergantung pada bagaimana konten digunakan, pembuatnya berpotensi menghadapi tuntutan mulai dari pencemaran nama baik dan kerusakan reputasi hingga pelanggaran terkait dokumen digital palsu.
Masalah ini juga berkaitan dengan AI agents yang bisa curi kredensial dari data publik, menunjukkan bahwa risiko keamanan dari teknologi AI semakin kompleks dan beragam.
Seiring alat AI menjadi lebih cepat, lebih murah, dan lebih mudah diakses, tantangan terbesarnya adalah memastikan teknologi ini tidak menjadi salah satu mesin misinformasi paling efektif di internet. Konsistensi penegakan kebijakan keamanan antar platform menjadi kunci untuk mencegah penyalahgunaan.
Pengguna juga perlu meningkatkan literasi digital untuk mengenali konten yang dihasilkan AI, terutama mengingat trik prompt ChatGPT yang semakin canggih dan mampu menghasilkan output yang sulit dibedakan dari karya manusia.
Perbedaan tingkat resistensi antar chatbot menunjukkan bahwa pendekatan keamanan masing-masing perusahaan masih belum seragam. Sementara Meta AI menunjukkan ketahanan yang lebih baik, ChatGPT justru memperlihatkan celah yang signifikan. Hal ini menimbulkan pertanyaan tentang kesiapan industri AI dalam menghadapi potensi penyalahgunaan teknologi mereka.
Investigasi CORRECTIV ini menjadi pengingat bahwa pengembangan AI tidak hanya tentang kemampuan teknis, tetapi juga tanggung jawab etis. Perusahaan teknologi perlu memastikan bahwa inovasi yang mereka hadirkan tidak justru menjadi alat untuk menyebarkan kebohongan dan merusak kepercayaan publik terhadap informasi.
Komentar
Belum ada komentar.