Iklan

OpenAI Rilis Alat Deteksi CSAM, ChatGPT Blokir Akses 24 Jam

OpenAI merilis alat deteksi CSAM berbasis AI dan memperketat ChatGPT dengan suspensi akses 24 jam bagi pengguna yang mencari materi pelecehan anak.

Ilustrasi alat deteksi CSAM berbasis AI dari OpenAI dan antarmuka ChatGPT
Iklan
Iklan
  • OpenAI merilis image classifier pendeteksi CSAM termasuk gambar hasil AI
  • Akses API gratis untuk organisasi keselamatan anak terverifikasi
  • Evaluasi awal kurangi gambar perlu ditinjau 48%
  • ChatGPT hapus percakapan dan suspensi akses 24 jam
  • Panduan keselamatan baru untuk pengembang dan alat AI bagi penyidik

Telset.id – OpenAI memperluas upaya memerangi eksploitasi seksual anak online melalui serangkaian alat deteksi berbasis AI, intervensi lebih ketat di ChatGPT, serta dukungan tambahan bagi pengembang dan aparat penegak hukum. Pengumuman yang dirilis pada 16 November ini mencakup image classifier yang dirancang untuk mengidentifikasi potensi materi pelecehan seksual anak (CSAM), termasuk gambar hasil AI, sekaligus langkah untuk menghentikan perilaku berbahaya sebelum meningkat.

Langkah ini muncul ketika AI generatif semakin memudahkan pembuatan konten sintetis, sehingga menimbulkan tantangan baru bagi platform dan organisasi yang bertanggung jawab melindungi anak-anak di dunia online. OpenAI menyebut upaya terbarunya dibangun di atas Child Safety Blueprint yang sudah ada dan ditujukan untuk membantu organisasi mendeteksi penyalahgunaan, merespons laporan, dan mendukung investigasi.

Perusahaan juga menggandeng organisasi keselamatan anak serta aparat penegak hukum, alih-alih memperlakukan masalah ini sebagai sesuatu yang bisa diselesaikan oleh satu platform teknologi saja. Pendekatan kolaboratif ini menjadi inti dari pengumuman tersebut, karena deteksi konten abusive hanya satu bagian dari perlindungan anak secara menyeluruh.

Alat Deteksi CSAM OpenAI Dibuka untuk Organisasi Terverifikasi

Image classifier baru ini mencari indikator visual potensi penyalahgunaan, termasuk materi yang mungkin dihasilkan AI. Sistem ini memberikan skor pada gambar untuk membantu tim keselamatan memprioritaskan mana yang perlu ditinjau manusia. OpenAI menyatakan akses ditawarkan melalui API tanpa biaya kepada organisasi yang telah diverifikasi, termasuk kelompok keselamatan anak dan perusahaan teknologi lain.

Evaluasi awal menunjukkan classifier ini dapat mengurangi jumlah gambar yang memerlukan peninjauan sebesar 48% sekaligus mengidentifikasi sekitar jumlah gambar abusive yang sama dengan alat OpenAI yang sudah ada. Gambar yang ditandai sistem baru juga sekitar dua kali lebih mungkin mengandung penyalahgunaan.

Mitra eksternal melaporkan hasil yang menggembirakan dalam pengujian mereka sendiri. Fal menyebut peninjau manusia mengonfirmasi 72% dari penanda berkeyakinan tinggi sebagai CSAM baru, sementara invideo AI melaporkan bahwa satu dari empat kasus yang ditandai berujung pada pemblokiran. SafetyKit menyatakan evaluasinya mendeteksi 90% kasus yang melibatkan gambar atau animasi yang menyeksualkan anak-anak.

OpenAI menyebut alat ini dikembangkan dengan bantuan National Center for Missing and Exploited Children (NCMEC). Perusahaan juga bekerja sama dengan organisasi termasuk Tech Coalition dan ROOST untuk meningkatkan berbagi informasi antarplatform.

ChatGPT Hentikan Permintaan Berbahaya, Penyidik Dapat Alat Baru

OpenAI juga memperkenalkan peringatan baru di ChatGPT ketika pengguna mencoba mencari materi abusive. Peringatan tersebut menjelaskan bahaya yang terlibat dan mengarahkan orang ke dukungan spesialis. Percakapan yang ditandai akan dihapus, dan akses ke ChatGPT ditangguhkan selama 24 jam. Pelanggaran berulang dapat berujung pada pembatasan lebih lama, penutupan akun, atau laporan kepada otoritas.

ChatGPT

Perusahaan juga menerbitkan panduan keselamatan praktis bagi pengembang, mencakup deteksi konten, pelaporan pengguna, moderasi, dan prosedur eskalasi. Secara terpisah, penyidik keselamatan anak yang berwenang akan menerima alat AI untuk meninjau log percakapan panjang dan catatan hukum, mengidentifikasi kemungkinan koneksi, serta menyusun linimasa yang terkait dengan materi sumber. Bagi pengguna yang ingin memahami perubahan kebijakan produk OpenAI lainnya, informasi seputar penonaktifan fitur suara juga tersedia.

Upaya yang lebih luas ini signifikan karena mendeteksi konten abusive hanyalah satu bagian dari melindungi anak. Platform juga harus mencegah penyalahgunaan, mendukung korban, dan membantu penyidik bertindak berdasarkan bukti. OpenAI menyatakan akan terus menyempurnakan alat-alat ini dan bekerja sama dengan organisasi eksternal. Efektivitasnya akan bergantung pada seberapa andal kinerja mereka di lingkungan dunia nyata dan seberapa luas kelompok keselamatan anak terverifikasi dapat menggunakannya.

chatgpt on web

Langkah OpenAI ini melengkapi rangkaian pengembangan produk dan dinamika hukum yang menyertainya, termasuk pembahasan mengenai ChatGPT Wallet dan gugatan yang menyoroti model AI baru dari sejumlah pengembang. Dengan alat deteksi CSAM, OpenAI menempatkan pengawasan konten sebagai bagian dari tanggung jawab platform yang harus diuji di lapangan, bukan sekadar komitmen di atas kertas.

Iklan
Ikuti Telset.id di Google NewsFollow