Openai beri notifikasi orang tua soal pelanggaran remaja di chatgpt

OpenAI memperluas fitur kontrol orang tua dengan notifikasi jika anak remaja melanggar kebijakan kekerasan di ChatGPT
Fitur ini memungkinkan orang tua mengetahui jika akun anak dinonaktifkan karena pelanggaran terkait tindak kekerasan
OpenAI bekerja sama dengan Moonshot, perusahaan spesialis pemantauan kekerasan daring, untuk mengembangkan fitur ini
Langkah ini diambil setelah insiden penembakan massal Tumbler Ridge 2025 di mana tersangka menggunakan ChatGPT
OpenAI juga memperkenalkan Study Mode dan pengingat istirahat untuk pengguna remaja
CEO Sam Altman sebelumnya meminta maaf atas kelalaian tidak memberi tahu otoritas saat melarang akun tersangka penembakan

Telset.id – OpenAI akan memberitahu orang tua atau wali yang memiliki akun terhubung jika anak remaja mereka dikeluarkan dari ChatGPT karena melanggar kebijakan terkait ancaman kekerasan atau tindak kekerasan online. Langkah ini merupakan perluasan dari kontrol orang tua yang sudah diluncurkan tahun lalu.

Perusahaan kecerdasan buatan itu meluncurkan fitur kontrol orang tua untuk ChatGPT pada tahun 2025. Fitur tersebut memungkinkan orang tua menghubungkan akun pribadi mereka dengan akun anak remaja. Melalui fitur ini, orang tua dapat menjadwalkan jam penggunaan ChatGPT, mengurangi konten sensitif, serta mendapatkan notifikasi jika chatbot mendeteksi tanda-tanda bahwa anak mereka mungkin berpikir untuk menyakiti diri sendiri.

Kini, OpenAI memperluas cakupan notifikasi tersebut untuk memberi tahu orang tua jika anak mereka berpotensi menjadi bahaya bagi orang lain. Dalam contoh yang dipublikasikan perusahaan, OpenAI mengirimkan peringatan kepada orang tua mengenai “pembaruan penting” terkait akun anak mereka. Dari sana, mereka dapat mengeklik “Pelajari Lebih Lanjut” untuk melihat pesan yang lebih panjang, yang memberi tahu bahwa akun anak mereka telah dinonaktifkan karena melanggar kebijakan penggunaan terkait Tindak Kekerasan.

Untuk mengembangkan fitur ini, OpenAI bekerja sama dengan Moonshot, sebuah perusahaan yang berspesialisasi dalam pemantauan dan penanggulangan kekerasan daring. “Memberi tahu orang tua ketika masalah serius muncul, dengan akses ke konteks lebih lanjut, adalah langkah awal yang penting untuk memberikan kesempatan bagi keluarga untuk turun tangan lebih awal dan mencari bantuan,” ujar pendiri Moonshot, Vidhya Ramalingam.

“Akses semacam ini adalah salah satu dari sekian banyak langkah yang diperlukan untuk menjaga anak-anak tetap lebih aman saat menggunakan ChatGPT,” tambahnya.

Baca Juga:

Keputusan OpenAI untuk memperkuat protokol keamanan ini muncul setelah insiden penembakan massal di Tumbler Ridge, British Columbia pada tahun 2025. Tersangka dalam kasus tersebut diketahui menggunakan ChatGPT. Pihak berwenang Kanada memanggil perusahaan setelah laporan muncul bahwa OpenAI tidak memberi tahu otoritas saat melarang akun pelaku. CEO OpenAI, Sam Altman, bahkan meminta maaf atas kelalaian tersebut.

Jari melayang di atas ikon ChatGPT.

Selain meluncurkan notifikasi baru, OpenAI juga memperkenalkan kemampuan untuk mengaktifkan Study Mode langsung dari kontrol orang tua. Mode ini memungkinkan ChatGPT memberikan petunjuk sebelum menjawab pertanyaan untuk membantu siswa belajar dan memahami materi. Plus, chatbot kini akan menampilkan pengingat istirahat yang lebih sering kepada pengguna remaja yang menghabiskan waktu lama di ChatGPT, membantu mereka membentuk kebiasaan teknologi yang lebih sehat.

Langkah OpenAI ini menunjukkan komitmen perusahaan untuk meningkatkan keamanan platformnya, terutama bagi pengguna remaja. Dengan adanya notifikasi kepada orang tua, diharapkan tindakan pencegahan dapat dilakukan lebih awal jika terjadi pelanggaran kebijakan yang serius.

Fitur kontrol orang tua yang diperluas ini merupakan bagian dari upaya berkelanjutan OpenAI untuk menciptakan lingkungan yang lebih aman bagi pengguna muda. Perusahaan terus berinovasi dalam mengembangkan alat dan kebijakan yang dapat melindungi pengguna, sambil tetap memberikan manfaat edukatif dari teknologi AI.