Telset.id – OpenAI resmi meluncurkan ChatGPT for Teens pada Selasa, sebuah mode khusus yang dirancang untuk pengguna berusia 13 hingga 17 tahun dengan janji perlindungan keamanan yang lebih kuat. Namun, pengujian independen yang dilakukan Business Insider menunjukkan fitur ini gagal memenuhi tujuan utamanya sejak hari pertama peluncuran.
Mode baru ini hadir setelah bertahun-tahun OpenAI menghadapi berbagai skandal terkait keamanan pengguna muda. Perusahaan yang dipimpin Sam Altman ini mengklaim ChatGPT for Teens dirancang untuk membantu pengguna muda “belajar, berpikir kritis, memperdalam pemahaman, dan menggunakan AI dengan percaya diri.”
Menurut OpenAI, fitur ini “menyediakan perlindungan keamanan bawaan yang lebih kuat untuk remaja, termasuk fitur untuk mempromosikan penggunaan yang sehat dan kontrol tambahan untuk orang tua.” Sistem akan “secara otomatis” menempatkan pengguna berusia 13 hingga 17 tahun ke dalam fitur baru ini jika “memperkirakan seseorang berusia di bawah 18 tahun,” tanpa menjelaskan bagaimana perusahaan sampai pada kesimpulan tersebut.
Pengujian Mengecewakan di Hari Pertama
Joshua Nelken-Zitser dari Business Insider segera menemukan kegagalan signifikan pada ChatGPT for Teens saat peluncuran. Dalam serangkaian pengujian, ia membuat akun baru untuk pengguna fiktif berusia 15 tahun dan membandingkan jawaban dengan versi yang dapat diakses orang dewasa.
Hasilnya, ChatGPT for Teens awalnya menolak menulis “esai 800 kata tentang tema terbesar dalam ‘The Crucible'” yang harus dikumpulkan keesokan harinya. Namun setelah sedikit desakan, versi remaja ini langsung menyerah dan menghasilkan “esai model” sepanjang 608 kata, yang justru didorong oleh chatbot untuk direvisi sebelum diserahkan.
Dari sana, Nelken-Zitser dengan mudah meminta alat ini menghasilkan esai 776 kata “dengan detail sebanyak versi yang dihasilkan oleh akun dewasa saya.” Ia menyimpulkan, “Ternyata, yang dibutuhkan hanyalah sedikit kesabaran dan sedikit tipu daya untuk melewati pengaman pekerjaan rumah.”
Pengujian terpisah untuk menjawab soal aljabar SAT yang sulit terbukti lebih sederhana, dengan versi dewasa dan remaja memberikan solusi yang sama efektifnya.
Seorang juru bicara mengatakan kepada Nelken-Zitser bahwa perusahaan masih mengembangkan fitur tersebut yang “baru diluncurkan hari ini.”
Krisis Pendidikan Semakin Parah
Kegagalan ini menjadi kabar buruk bagi para pendidik yang telah lama berjuang menghadapi penggunaan AI oleh siswa. Selama bertahun-tahun, siswa telah menggunakan teknologi OpenAI secara masif dengan hasil yang mengkhawatirkan.
Psikolog kognitif Ronald Kellogg dalam esainya untuk New York Times menyatakan bahwa siswa semakin banyak menyerahkan tugas kognitif kepada alat AI, secara efektif kehilangan kemampuan untuk berpikir. Sebagai respons, para pendidik yang semakin putus asa kembali menggunakan pensil dan kertas untuk menulis esai atau menerapkan ujian lisan baru. Beberapa sekolah bahkan melarang perangkat digital sepenuhnya, termasuk laptop dan smartphone.
ChatGPT for Teens tampaknya terlalu sedikit dan terlalu lambat. Tanpa pengaman yang bermakna, remaja tidak mungkin menghentikan kebiasaan berbahaya mereka dalam waktu dekat, sebuah nasib yang bisa memiliki konsekuensi yang menghancurkan.
“Kita sudah tahu apa yang bisa dilakukan makanan ultra-proses pada tubuh dan ini adalah informasi ultra-proses,” kata Susan Shelmerdine, dokter pencitraan medis di Ormond Street Hospital dan akademisi AI kepada BBC tahun lalu. “Kita akan mendapatkan longsoran pikiran yang ultra-proses.”
Peluncuran ChatGPT for Teens yang mengecewakan ini menunjukkan bahwa OpenAI masih memiliki pekerjaan rumah besar dalam melindungi pengguna muda. Meskipun perusahaan telah mengakui masalah ini dengan menghadirkan mode khusus, efektivitas pengaman yang ditawarkan masih jauh dari harapan.
Para pendidik dan orang tua kini dihadapkan pada kenyataan bahwa solusi yang dijanjikan OpenAI belum berfungsi sebagaimana mestinya. Sementara itu, siswa tetap dapat mengakses bantuan AI untuk tugas sekolah mereka dengan sedikit usaha melewati batasan yang ada.
Komentar
Belum ada komentar.