Telset.id – Kecerdasan buatan atau AI chatbot kini semakin pandai meniru percakapan manusia. Namun, sebuah studi terbaru justru mengungkap potensi risiko psikologis yang selama ini terabaikan. Tiga perilaku umum chatbot dapat saling memperkuat dan menciptakan “spiral amplifikasi” yang memperkuat pemikiran delusif pada pengguna yang rentan.
Tim peneliti yang terdiri dari psikiater Marc Augustin serta peneliti Thomas A. Pollak dan Helen Morrin menerbitkan makalah ulasan di jurnal NPP—Digital Psychiatry and Neuroscience. Makalah yang disorot oleh The Wall Street Journal ini meninjau berbagai studi sebelumnya dan mengusulkan kerangka kerja untuk menjelaskan bagaimana tiga perilaku chatbot bisa berbahaya jika digabungkan.
Pada dasarnya, tiga perilaku yang dimaksud adalah sycophancy (kecenderungan setuju dengan pengguna), linguistic alignment (meniru kosakata dan gaya bicara pengguna), serta hyperpersonalization (personalisasi berlebihan berdasarkan riwayat percakapan). Masing-masing fitur ini memang membuat AI terasa lebih alami. Namun jika bekerja bersama, efeknya bisa membuat chatbot terasa bukan sekadar perangkat lunak, melainkan teman kepercayaan.
Tiga Perilaku Berbahaya Chatbot
Peneliti tidak mengklaim telah menemukan perilaku-perilaku ini untuk pertama kalinya. Sebaliknya, mereka merangkum penelitian yang sudah ada tentang interaksi AI-manusia dan psikosis, lalu menyusun kerangka kerja yang menunjukkan bagaimana ketiga sifat ini bisa saling memperkuat. Tujuannya bukan sekadar mendeskripsikan masalah, tetapi memberikan model yang jelas bagi pengembang AI untuk mengenali dan mengurangi risiko tersebut.
Psikiater Marc Augustin menjelaskan bahwa kombinasi ketiga perilaku ini menciptakan perasaan sedang berbicara dengan “seseorang” dan bukan mesin. Hal ini diperkuat oleh pengalaman klinisi lain yang diwawancarai Journal. Mereka mengaku sudah melihat peningkatan jumlah pasien yang menggunakan AI untuk dukungan emosional.
Para klinisi memperingatkan bahwa chatbot bisa menumbuhkan rasa percaya yang kuat hanya dengan terdengar hangat, mengingat percakapan sebelumnya, dan memvalidasi apa yang dikatakan pengguna. Risiko ini semakin nyata mengingat banyak pengguna yang mungkin tidak menyadari bahwa mereka sedang berinteraksi dengan algoritma, bukan manusia.
Baca Juga:
Pengembang AI Pun Sadar Masalah Ini
Laporan tersebut mencatat bahwa para pengembang AI sebenarnya sudah berusaha mengurangi perilaku ini. OpenAI mengklaim bahwa GPT-5 secara signifikan mengurangi respons yang terlalu setuju dibandingkan model sebelumnya. Sementara itu, Google mengatakan Gemini telah dilatih untuk membedakan pengalaman subjektif dari fakta objektif, bukan memperkuat keyakinan yang salah.
Anthropic juga telah mempublikasikan penelitian yang menunjukkan Claude sangat rentan setuju dengan pengguna selama percakapan tentang saran hubungan. Hal ini mendorong perusahaan untuk mengurangi perilaku tersebut di versi yang lebih baru. Fakta ini menunjukkan bahwa kesadaran akan masalah ini sudah ada di level industri.
Para peneliti mengakui bahwa tidak ada solusi mudah. Model AI hanya bisa merespons informasi yang diberikan pengguna, sehingga sulit untuk mengetahui kapan pemahaman seseorang tentang suatu situasi tidak akurat. Di sisi lain, kualitas yang membuat chatbot terasa berguna—seperti ramah, empati, dan komunikatif—juga menjadi alasan mengapa mereka begitu menarik.
Kekhawatiran muncul ketika sifat-sifat ini mulai saling memicu. Alih-alih sekadar menjawab pertanyaan, chatbot secara bertahap bisa menjadi suara yang sangat personal dan terus-menerus memvalidasi perspektif pengguna, bahkan ketika perspektif itu mulai menyimpang dari kenyataan. Para peneliti menyebut fenomena ini sebagai “spiral amplifikasi.”
Lebih penting lagi, mereka berpendapat bahwa mengidentifikasi interaksi ini sebagai kerangka kerja yang terpisah memberikan sesuatu yang nyata bagi perusahaan AI untuk dirancang. Daripada memperlakukan sycophancy, personalisasi, dan mirroring linguistik sebagai isu terpisah, makalah ini menyarankan agar ketiganya dievaluasi bersama jika pengembang ingin menciptakan chatbot yang menarik sekaligus lebih aman secara psikologis.
Implikasi dari temuan ini sangat luas, terutama di tengah maraknya penggunaan AI untuk Fitur Terbaru chatbot yang semakin natural. Pengguna perlu lebih sadar bahwa interaksi dengan AI bukanlah pengganti konseling atau dukungan profesional. Sementara itu, pengembang harus merancang sistem yang bisa mendeteksi dan memutus spiral amplifikasi sebelum menjadi berbahaya.
Para peneliti berharap kerangka kerja ini bisa menjadi titik awal untuk diskusi lebih lanjut tentang keamanan psikologis dalam pengembangan AI. Dengan pemahaman yang lebih baik tentang bagaimana perilaku chatbot bisa berdampak negatif, industri bisa bergerak menuju desain yang lebih bertanggung jawab.
Komentar
Belum ada komentar.