Telset.id – ChatGPT for Teens yang diluncurkan OpenAI pada 18 Agustus dinilai belum mampu melindungi pengguna remaja. Investigasi Common Sense Media menemukan bahwa fitur notifikasi orang tua tidak aktif dalam percakapan serius soal kesehatan mental, sehingga organisasi tersebut merekomendasikan ChatGPT dibatasi hanya untuk pengguna dewasa hingga masalah ini diselesaikan.
Temuan ini muncul setelah peneliti menguji ChatGPT dengan lebih dari 4.000 prompt. Pengujian dilakukan pada akun yang terdaftar sebagai remaja berusia 13 hingga 17 tahun, sebelum dan sesudah OpenAI memperkenalkan ChatGPT for Teens. Peneliti juga melibatkan pakar medis, termasuk psikiater anak dan seorang dokter anak, untuk mengevaluasi respons chatbot tersebut.
Hasilnya, peneliti menyimpulkan bahwa pengalaman ChatGPT yang difokuskan untuk remaja menimbulkan risiko yang tidak dapat diterima bagi pengguna muda. Rekomendasi yang diajukan pun tegas: OpenAI diminta membatasi akses ChatGPT hanya untuk orang dewasa sampai seluruh persoalan ini benar-benar diselesaikan.
Notifikasi Orang Tua Tidak Berfungsi
Salah satu janji utama ChatGPT for Teens adalah notifikasi orang tua. Fitur ini dirancang untuk memberi peringatan kepada pengasuh ketika seorang remaja mungkin mengalami tekanan serius. Namun, dalam pengujian yang dilakukan, peneliti menghabiskan waktu hingga satu jam membahas pikiran untuk bunuh diri, melukai diri sendiri, dan gangguan pola makan melalui akun yang baru dibuat dan tertaut ke orang tua.
Menurut laporan tersebut, tidak ada satu pun percakapan itu yang memicu notifikasi orang tua. Peneliti baru berhasil memunculkan peringatan ketika menggunakan akun lama yang sudah memiliki riwayat percakapan relevan selama berminggu-minggu. Artinya, sistem ini baru bereaksi setelah ada jejak panjang, bukan pada percakapan berisiko yang sedang berlangsung.
ChatGPT juga seharusnya mengarahkan remaja ke bantuan yang tepat saat menghadapi keadaan darurat kesehatan mental. Namun, studi menemukan bahwa ChatGPT gagal melakukannya pada lebih dari 25% situasi yang oleh para ahli dirancang khusus untuk membutuhkan arahan tersebut.
Di sisi lain, ada sejumlah keberhasilan yang dicatat. ChatGPT tercatat menolak terlibat dalam roleplay seksual eksplisit. Meski demikian, peneliti juga menemukan bahwa chatbot ini tetap merespons dengan cara yang menyiratkan seolah memiliki perasaan, preferensi, dan suasana hati. Padahal, OpenAI menyatakan berupaya mencegah remaja memperlakukan chatbot seperti teman manusia.
Hal ini menjadi penting karena pengguna muda mungkin sudah cenderung mencurahkan isi hati kepada chatbot yang selalu sabar dan tidak pernah tampak terlalu sibuk untuk mendengarkan. Persoalan privasi percakapan AI sendiri bukan hal baru, seperti yang pernah dibahas dalam artikel soal privasi chat di ChatGPT.
Mode Belajar Mudah Dilewati
Masalah tidak berhenti pada isu keselamatan serius. Fitur edukasi sehari-hari ChatGPT juga menemui kendala. Mode Study milik OpenAI dirancang untuk menuntun siswa menyelesaikan soal melalui penjelasan, petunjuk, dan pertanyaan, bukan langsung memberi jawaban. Namun, peneliti menemukan bahwa remaja terkadang bisa melewati pendekatan itu dengan memilih opsi “Show me the answer”, sehingga ChatGPT menyelesaikan tugas mereka.
Fitur Study Hours yang ditujukan agar orang tua dapat mendorong penggunaan edukatif juga gagal mencegah akal-akalan serupa. Cukup menghapus awalan @study dari sebuah prompt, ChatGPT bisa kembali ke mode normal. Selain itu, AI ini juga tidak mengingatkan pengguna untuk beristirahat sesering yang seharusnya.
Baca Juga:
Studi ini juga menyoroti kelemahan sistem deteksi usia yang dikembangkan OpenAI untuk mengenali pengguna muda dan otomatis menerapkan perlindungan yang sesuai. Dalam pengujian, peneliti berulang kali menyatakan bahwa mereka berusia 13 tahun. Namun, pernyataan itu tidak membuat ChatGPT memindahkan akun uji tersebut dari pengalaman versi dewasa.
Kegagalan deteksi usia ini memperkuat kekhawatiran bahwa perlindungan yang diklaim OpenAI belum berjalan sesuai harapan. Sebelumnya, OpenAI juga sempat menghadapi sorotan terkait insiden keamanan pada agen AI-nya, seperti yang dilaporkan dalam artikel insiden keamanan AI.
Isu yang lebih besar adalah bahwa ChatGPT kini menjadi bagian rutin dari kehidupan remaja. Membantu mengerjakan tugas sekolah dan menjawab pertanyaan pribadi memang berguna, tetapi kehadiran pengguna remaja menuntut perlindungan yang jauh lebih andal dibandingkan aplikasi produktivitas biasa untuk orang dewasa.
TechRadar telah memberikan kesempatan kepada OpenAI untuk memberikan komentar atas survei ini, namun belum menerima respons sejauh ini. Laporan akan diperbarui jika ada tanggapan yang masuk.
Yang perlu dicatat, ChatGPT for Teens sebenarnya dirancang sebagai pendamping yang lebih pantas bagi pengguna muda. Fitur ini membawa perlindungan tambahan terhadap konten berbahaya, notifikasi orang tua, serta fitur yang mendorong pembelajaran alih-alih sekadar memberi jawaban pekerjaan rumah. OpenAI juga berjanji mencegah hubungan yang terlalu personal dengan chatbot dan membantu remaja menjaga batasan yang lebih sehat dengan AI.
Namun, laporan baru ini menunjukkan masih ada jarak yang cukup lebar antara ambisi tersebut dan apa yang benar-benar terjadi ketika remaja menggunakannya. Perkembangan ChatGPT yang makin otonom juga menjadi perhatian tersendiri, sebagaimana pernah dibahas dalam artikel soal ChatGPT makin otonom.
Bagi para orang tua, temuan ini menjadi sinyal bahwa pengawasan manual tetap diperlukan selama celah perlindungan belum benar-benar tertutup. Sementara bagi OpenAI, rekomendasi Common Sense Media menjadi tekanan langsung untuk membenahi sistem notifikasi, deteksi usia, dan pengalihan bantuan darurat sebelum ChatGPT for Teens dapat dianggap aman digunakan secara luas.
Komentar
Belum ada komentar.