Telset.id – Ketergantungan pada chatbot AI untuk memverifikasi berita justru bisa menumpulkan kemampuan deteksi hoaks dalam jangka panjang. Temuan ini diungkap dalam studi terbaru dari MIT Media Lab yang melibatkan peneliti Pattie Maes beserta timnya.
Studi yang dilakukan selama empat minggu ini mengamati partisipan yang mengevaluasi pasangan headline dan gambar berita. Pada awal penelitian, partisipan yang dibantu chatbot menunjukkan akurasi 21 persen lebih tinggi dalam membedakan berita palsu dari berita asli. Namun, memasuki minggu keempat, kemampuan mereka justru menurun 15 persen lebih buruk dalam mengidentifikasi berita palsu tanpa bantuan AI dibandingkan sebelum penelitian dimulai.
Menariknya, sekitar seperempat partisipan melaporkan merasa kemampuan mereka meningkat, padahal hasil tes menunjukkan sebaliknya. Fenomena ini oleh para peneliti disebut sebagai “AI dependency paradox” atau paradoks ketergantungan AI, yang juga telah diamati di bidang lain seperti kedokteran.
Paradoks Ketergantungan AI
Anku Rani, PhD student di media arts and sciences dan salah satu penulis utama studi ini, menjelaskan bahwa pengguna sering kali terlalu bersemangat dengan kemampuan large language models (LLM) yang dianggap “ajaib”. Padahal, LLM hanyalah model statistik yang memprediksi “token” berikutnya dalam sebuah urutan.
“Users get excited about these ‘magical’ LLMs but forget that they’re just statistical models that predict the next ‘token’ in a sequence,” ujar Rani, seperti dikutip dalam studi tersebut.
Rani menulis studi ini bersama rekan sesama PhD student MAS, Valdemar Danry, SM ’23. Keduanya menemukan bahwa meskipun chatbot AI membantu mempercepat verifikasi fakta, ketergantungan berlebihan justru mengikis kemampuan kognitif pengguna dalam jangka panjang.
Gaya AI Menentukan Hasil Belajar
Penelitian ini juga mengungkap tematan menarik lainnya: gaya interaksi AI sangat memengaruhi kemampuan independen pengguna di kemudian hari. AI yang memberikan jawaban langsung cenderung mendorong ketergantungan, sementara AI yang menggunakan metode pertanyaan Sokratis lebih efektif melatih pengguna belajar membedakan kebenaran secara mandiri.
“AIs that ‘tell’ by providing direct answers are more likely to foster reliance, while those that ‘ask’ via Socratic questioning are better at engaging someone to actually learn how to discern the truth on their own,” jelas Danry.
Meski demikian, Danry menekankan bahwa pendekatan Sokratis ini memiliki trade-off antara kecepatan dan usaha. “But it’s very much a trade-off between speed and effort,” tambahnya.
Artinya, pengguna yang ingin hasil cepat dengan bantuan AI langsung akan lebih cepat puas, tetapi mereka yang bersedia meluangkan waktu berlatih dengan metode tanya-jawab akan memperoleh kemampuan jangka panjang yang lebih baik.
Baca Juga:
Temuan ini menjadi peringatan penting di tengah maraknya penggunaan chatbot AI sebagai alat verifikasi berita sehari-hari. Meskipun teknologi ini menawarkan kemudahan, pengguna perlu menyadari bahwa ketergantungan berlebihan dapat merusak kemampuan berpikir kritis mereka sendiri.
Studi MIT ini sejalan dengan kekhawatiran yang berkembang tentang dampak jangka panjang AI terhadap keterampilan kognitif manusia. Kemudahan yang ditawarkan AI dalam memproses informasi tidak selalu sejalan dengan pengembangan kemampuan analisis mandiri.
Para peneliti menekankan bahwa desain AI ke depan perlu mempertimbangkan aspek edukatif, bukan hanya kecepatan dan akurasi. AI yang baik seharusnya tidak hanya memberi jawaban, tetapi juga membantu pengguna memahami mengapa sebuah informasi benar atau salah.
Temuan ini juga relevan bagi platform berita dan pengembang chatbot yang ingin mengintegrasikan fitur verifikasi fakta. Mereka perlu mempertimbangkan apakah produk mereka membantu pengguna belajar atau justru menciptakan ketergantungan pasif.
Studi ini menambah daftar penelitian yang menyoroti sisi gelap adopsi AI yang terlalu cepat. Di tengah euforia teknologi, penting untuk tetap kritis terhadap dampak jangka panjangnya terhadap kemampuan dasar manusia, termasuk kemampuan membedakan fakta dan hoaks.
Bagi pengguna sehari-hari, temuan ini menjadi pengingat untuk tidak sepenuhnya menyerahkan proses verifikasi informasi kepada AI. Kemampuan berpikir kritis tetap perlu dilatih dan dijaga, meskipun teknologi AI semakin canggih.
Studi MIT Media Lab ini menunjukkan bahwa AI seharusnya menjadi alat bantu, bukan pengganti kemampuan kognitif manusia. Desain AI yang baik harus mampu menyeimbangkan antara memberikan solusi cepat dan mengembangkan kemampuan pengguna dalam jangka panjang.
Komentar
Belum ada komentar.