Telset.id – Florida secara resmi menggugat OpenAI dan CEO Sam Altman atas tuduhan eksploitasi pengguna. Gugatan perdata yang diajukan oleh Jaksa Agung Florida, James Uthmeier, menuduh perusahaan tersebut mendorong produk yang diketahui dapat membahayakan pengguna, terutama setelah insiden penembakan massal di Florida State University (FSU) yang melibatkan konsultasi dengan ChatGPT.
“Kebangkitan OpenAI disebabkan oleh jaringan penipuan dan eksploitasi pengguna (termasuk warga Florida), memanfaatkan data dan keselamatan mereka untuk meningkatkan nilai pasar OpenAI dengan biaya yang tidak dapat diterima,” demikian bunyi gugatan tersebut, seperti dilaporkan oleh NBC News.
Gugatan ini diajukan setelah seorang pelaku penembakan massal di FSU tahun lalu, yang menewaskan dua orang dan melukai setidaknya enam lainnya, diduga berkonsultasi dengan ChatGPT untuk merencanakan serangan. Pelaku disebut mendapatkan saran tentang senjata yang akan digunakan dan cara mendapatkan perhatian media dari chatbot tersebut.
Gugatan tersebut berisi empat tuduhan praktik perdagangan yang menipu dan tidak adil, dua tuduhan kelalaian, dua tuduhan pelanggaran hukum tanggung jawab produk, serta satu tuduhan masing-masing untuk penipuan dan gangguan publik. Gugatan juga mengklaim bahwa sistem OpenAI menghadirkan “bahaya besar kecanduan, penurunan kognitif, bunuh diri, kekerasan, dan bahaya terkait” bagi pengguna.
Selain kasus FSU, gugatan juga menyebutkan insiden penembakan di University of South Florida di mana dua mahasiswa tewas. Pelaku diduga juga berkomunikasi dengan ChatGPT selama tahap perencanaan, termasuk mendapatkan informasi tentang cara menyembunyikan mayat dari chatbot.
Kasus serupa juga terjadi di luar Florida. Sebuah penembakan massal di British Columbia pada Februari lalu menewaskan delapan orang, termasuk anak-anak, dan puluhan lainnya terluka. Pelaku diduga secara teratur berkomunikasi dengan ChatGPT. OpenAI sebenarnya telah menandai akun tersebut karena “aktivitas kekerasan senjata dan perencanaan,” namun tidak memberi tahu pihak berwenang dan hanya menonaktifkan akun tersebut. Pelaku kemudian membuat profil kedua dan melanjutkan percakapan.
Secara keseluruhan, OpenAI kini menghadapi setidaknya delapan gugatan yang berasal dari insiden kekerasan massal atau cedera diri, termasuk kasus di mana ChatGPT diduga membantu orang merencanakan bunuh diri mereka sendiri.
Gugatan Florida juga menyoroti masalah umum dengan generative AI, dengan alasan bahwa iklan OpenAI yang memuji kemampuan perangkat lunak untuk membantu petani dan usaha kecil “tidak mengungkapkan bahwa ChatGPT bisa salah, bisa membuat kesalahan, atau dapat memberikan informasi yang salah, tidak masuk akal, atau halusinasi.”
“Ketidakandalan ChatGPT berbahaya,” bunyi gugatan tersebut. Bahasa gugatan juga mengkritik kecenderungan ChatGPT untuk bersikap menjilat (sycophancy) yang dinilai sebagai taktik untuk meningkatkan keterlibatan pengguna, yang pada akhirnya menghasilkan lebih banyak data pelatihan dan nilai pasar bagi OpenAI.
OpenAI belum menanggapi gugatan ini, namun sebelumnya perusahaan menyatakan bahwa mereka merancang sistemnya dengan “keselamatan di setiap langkah” dan memiliki “pengaman untuk membantu orang, terutama remaja, ketika percakapan menjadi sensitif.” Perusahaan juga mengatakan bahwa sistemnya telah dilatih untuk “mengurangi eskalasi percakapan dan membimbing orang menuju dukungan dunia nyata.”
Jaksa Agung Uthmeier mengatakan gugatan tersebut “berusaha untuk membuat Altman bertanggung jawab secara pribadi atas bahaya yang telah ditimbulkannya kepada warga Florida melalui perilakunya yang ceroboh dan disengaja sebagai pendiri dan CEO OpenAI, termasuk pengabaian total terhadap risiko terhadap kehidupan manusia yang disebabkan oleh tindakan perusahaannya.” Uthmeier sebelumnya telah membuka penyelidikan kriminal terhadap perusahaan tersebut beberapa bulan lalu, yang masih berlangsung.
Gugatan ini menjadi babak baru dalam rangkaian masalah hukum yang dihadapi OpenAI. Sebelumnya, perusahaan juga menghadapi sidang Musk vs OpenAI yang mempertanyakan kredibilitas Altman. Di sisi lain, perusahaan juga berupaya menunjukkan kemajuan teknis, seperti saat OpenAI buktikan teorema matematika berusia 80 tahun.
Meskipun menghadapi berbagai tantangan hukum, OpenAI terus melanjutkan pengembangan produknya. Perusahaan baru-baru ini menunjuk Greg Brockman pimpin strategi produk secara resmi. Namun, kegagalan juga menghampiri, seperti kisah Critterz film AI OpenAI yang gagal tembus Cannes.
Implikasi dari gugatan ini sangat signifikan. Jika pengadilan memutuskan bahwa OpenAI bertanggung jawab atas penyalahgunaan teknologinya oleh pihak ketiga, hal ini dapat mengubah lanskap regulasi AI secara fundamental. Perusahaan AI mungkin harus menerapkan pengamanan yang lebih ketat dan sistem pemantauan yang lebih proaktif untuk mencegah penyalahgunaan. Gugatan ini juga menekankan pentingnya transparansi tentang keterbatasan teknologi AI, terutama klaim yang berlebihan dalam pemasaran.
Kasus ini menjadi preseden penting bagi industri AI global. Florida, sebagai negara bagian dengan populasi besar dan pengaruh hukum yang signifikan, mengambil langkah agresif untuk menuntut pertanggungjawaban perusahaan teknologi. Keputusan akhir dari kasus ini akan menjadi tolok ukur bagi gugatan serupa di masa depan dan dapat membentuk kebijakan regulasi AI di Amerika Serikat dan negara-negara lain.
Komentar
Belum ada komentar.