Telset.id – Bayangkan Anda sedang terpuruk, berbicara dengan chatbot soal perasaan paling gelap yang pernah Anda alami. Lalu tiba-tiba, tanpa sepengetahuan Anda, seorang teman lama mendapat kabar bahwa Anda butuh pertolongan. Kedengarannya menyeramkan? Atau justru menyelamatkan? Inilah dilema etis terbaru dari OpenAI: fitur Trusted Contact untuk ChatGPT.
Lebih dari satu juta pengguna dari total 800 juta pengguna mingguan ChatGPT dilaporkan pernah mengungkapkan pikiran untuk bunuh diri dalam percakapan mereka dengan chatbot tersebut. Angka ini diungkapkan OpenAI kepada BBC pada tahun lalu. Realitas ini mendorong OpenAI untuk mengambil langkah drastis: memberi kemampuan pada ChatGPT untuk menghubungi teman atau kerabat Anda jika sistem mendeteksi risiko serius bahwa Anda akan menyakiti diri sendiri.
Fitur ini bukan sekadar alarm otomatis. Ada lapisan keamanan dan privasi yang dirancang untuk mencegah penyalahgunaan. Tapi seberapa efektifkah sebuah algoritma dalam menilai kondisi psikologis seseorang? Mari kita bedah secara mendalam.
Bagaimana Trusted Contact Bekerja?
Trusted Contact adalah pengembangan dari sistem kontrol orang tua yang sudah ada sebelumnya di ChatGPT. Kini, pengguna dewasa berusia 18 tahun ke atas dapat menambahkan satu kontak tepercaya ke dalam pengaturan akun mereka. Kontak ini akan menerima undangan dan harus menyetujuinya dalam waktu satu minggu. Jika tidak, pengguna dapat memilih kontak lain sebagai gantinya.
Prosesnya tidak serta-merta. Ketika ChatGPT mendeteksi adanya indikasi kuat bahwa pengguna berniat menyakiti diri sendiri, sistem akan memberikan peringatan terlebih dahulu. Pengguna akan disarankan untuk menghubungi teman mereka sendiri, lengkap dengan saran kalimat pembuka percakapan. Barulah jika pengguna tidak merespons, tim manusia dari OpenAI akan turun tangan.
OpenAI menyatakan bahwa tim kecil yang terlatih khusus akan meninjau setiap situasi secara manual. Hanya jika tim ini memutuskan bahwa ada risiko serius, barulah kontak tepercaya akan dihubungi melalui email, SMS, atau notifikasi dalam aplikasi. Isi pesannya pun terbatas: “Mungkin
