Telset.id – OpenAI kembali berhadapan dengan gugatan hukum setelah platform ChatGPT dituding gagal melindungi pengguna remaja dari tindakan bunuh diri. Gugatan terbaru diajukan atas nama Kristie Carrier, yang kehilangan putrinya, Alice, akibat bunuh diri pada 2 Juli 2025.
Gugatan yang dilayangkan ke pengadilan tersebut mengeklaim bahwa Alice telah berdiskusi mengenai pikiran dan rencana bunuh dirinya dengan chatbot ChatGPT dalam beberapa bulan sebelum kematiannya. Namun, OpenAI disebut tidak memiliki pengaman yang memadai untuk mengakhiri percakapan tersebut atau memberi tahu keluarganya tentang situasi berbahaya itu.
Selain tuduhan kelalaian dan kematian akibat perbuatan melawan hukum, gugatan ini juga meminta perintah pengadilan yang mewajibkan OpenAI untuk menerapkan lebih banyak pagar pengaman di platform AI buatannya. “Seperti yang dituduhkan dalam pengaduan, keputusan desain yang disengaja oleh OpenAI menyebabkan tragedi bunuh diri ini. Alih-alih memberikan bantuan, OpenAI justru mendorong perilaku bunuh diri. Gugatan ini soal akuntabilitas atas tindakan OpenAI,” ujar Justin Nelson, partner di Susman Godfrey, salah satu pihak yang mengajukan gugatan.
Ini bukan kali pertama OpenAI tersandung kasus serupa. Perusahaan AI tersebut telah disebut dalam gugatan kematian akibat perbuatan melawan hukum pertama yang terkait dengan chatbot pada tahun lalu. Sejak saat itu, OpenAI juga digugat karena dituding memperkuat pemikiran delusional seorang pengguna sebelum ia meninggal akibat bunuh diri, serta dalam kasus lain yang mengeklaim bahwa ChatGPT memberikan saran yang menyebabkan kematian akibat overdosis yang tidak disengaja.
Platform AI lain seperti Character AI dan Gemini juga telah terseret dalam gugatan mereka sendiri terkait keamanan chatbot mereka. Kasus-kasus ini semakin menyoroti celah keamanan yang ada dalam teknologi AI generatif, terutama dalam menangani pengguna yang rentan secara psikologis.
Langkah OpenAI dan Keterbatasannya
OpenAI sebenarnya telah memperkenalkan kontrol orangtua untuk ChatGPT pada tahun lalu. Pada Mei 2026, perusahaan juga menambahkan fitur yang memungkinkan chatbot menghubungi seseorang atas nama pengguna jika pengguna tersebut membagikan pikiran untuk bunuh diri. Namun, fitur tersebut merupakan fitur opt-in, bukan pengaturan default, dan hanya tersedia untuk pengguna dewasa.
Keterbatasan ini menjadi sorotan utama dalam gugatan terbaru. Penggugat berargumen bahwa OpenAI seharusnya memiliki sistem perlindungan yang lebih proaktif, terutama untuk pengguna di bawah umur. Dalam kasus Alice, ia adalah seorang remaja yang mungkin tidak akan mengaktifkan fitur opt-in tersebut, dan bahkan jika diaktifkan, fitur itu tidak dirancang untuk membantu pengguna di bawah usia dewasa.
Kasus ini mengingatkan pada tantangan besar yang dihadapi industri AI dalam menyeimbangkan inovasi dengan keselamatan pengguna. Sementara perusahaan seperti OpenAI terus mengembangkan kemampuan chatbot mereka, kasus-kasus seperti ini menunjukkan bahwa pagar pengaman belum cukup kuat untuk mencegah penyalahgunaan atau dampak negatif pada pengguna yang rentan.
Baca Juga:
Jika Anda atau seseorang yang Anda kenal mengalami pikiran untuk bunuh diri, jangan ragu untuk menghubungi National Suicide Prevention Lifeline di 1-800-273-8255. Saluran tersebut buka 24/7 dan ada juga layanan obrolan online jika operator telepon tidak tersedia.
Gugatan ini menimbulkan pertanyaan serius tentang tanggung jawab perusahaan AI dalam melindungi pengguna mereka. Dengan semakin banyaknya kasus serupa yang muncul, tekanan terhadap regulator dan pembuat kebijakan untuk menetapkan standar keselamatan yang lebih ketat semakin besar. OpenAI dan perusahaan AI lainnya kini berada di bawah pengawasan ketat, dan hasil dari gugatan ini bisa menjadi preseden penting bagi masa depan regulasi AI.
Untuk informasi lebih lanjut tentang perkembangan AI dan implikasinya, Anda dapat membaca artikel tentang Virtua Fighter Crossroads atau Konfirmasi Resmi dari Samsung.
[CONTENT_END]
Komentar
Belum ada komentar.