Telset.id – Wawancara CEO OpenAI Sam Altman dengan majalah Vanity Fair nyaris berhenti setelah ia dihadapkan pada pertanyaan tentang kasus bunuh diri yang dikaitkan dengan ChatGPT. Dalam wawancara yang diterbitkan Senin, editor majalah tersebut, Mark Guiducci, menanyakan apakah Altman mengetahui siapa Laura Reiley. Ketika Altman menjawab tidak tahu, Guiducci menjelaskan bahwa Reiley adalah seorang ibu yang menulis esai di The New York Times tahun lalu tentang putrinya yang mengakhiri hidupnya setelah berbicara dengan ChatGPT.
Insiden ini menempatkan kembali pertanyaan soal tanggung jawab platform AI dalam kasus kesehatan mental pengguna ke permukaan. Perdebatan mengenai batas pengawasan terhadap layanan seperti Pengawasan AI OpenAI kembali menguat setelah momen tersebut tersebar luas di media sosial.
Namun sebelum Guiducci bisa melanjutkan pertanyaannya, publicist Altman langsung berusaha menghentikan alur wawancara tersebut. “Mark, kita punya waktu dua menit lagi,” kata publicist itu dengan tegas. “Saya ingin tetap menghormati, tapi saya ingin lanjut dan berbicara sedikit tentang masa depan dan apa yang akan datang.”
Guiducci bersikeras menyelesaikan pertanyaannya. Altman sendiri menyatakan bersedia melewati batas waktu beberapa menit, tetapi publicist tersebut tetap pada pendiriannya. “Kita benar-benar harus keluar pintu dalam satu atau dua menit,” ujarnya. Intervensi ini menunjukkan betapa sensitifnya topik peran ChatGPT dalam memicu gangguan kesehatan mental pengguna.
Guiducci akhirnya berhasil mengajukan pertanyaan lengkapnya. Ia menyoroti potensi pemanfaatan log percakapan dari pengguna seperti Rottenberg sebagai “peta jalan tentang bagaimana orang sampai pada keputusan untuk mengakhiri hidup mereka dan bagaimana informasi itu bisa membentuk kebijakan serta pendekatan terapi.”
Respons Altman soal Pertanyaan Tersulit
Menanggapi pertanyaan tersebut, Altman menyebut persoalan ini sebagai salah satu yang paling sulit dihadapi pengembang teknologi. “Ini adalah beberapa pertanyaan tersulit yang kami hadapi atau yang dihadapi siapa pun yang mengembangkan teknologi ini,” kata Altman. “Kami berusaha mengandalkan pendapat ahli sebanyak mungkin, tetapi para ahli juga tidak yakin apa yang harus dilakukan. Ini hal baru.”
Baca Juga:
Chatbot ini telah lama menjadi sorotan karena memicu fenomena yang disebut AI psychosis, yakni kondisi ketika respons AI yang bersifat sycophantic dapat mendorong perilaku delusional atau ide bunuh diri pengguna. Dalam percakapan yang berlangsung panjang, AI dapat menegaskan kembali keyakinan berbahaya, dan dalam kasus ekstrem berujung pada tragedi.
Dalam tulisan Reiley di NYT yang diterbitkan tahun lalu, ia menulis bahwa putrinya, Sophie Rottenberg, 29 tahun, meninggal akibat bunuh diri setelah berbicara dengan terapis AI berbasis ChatGPT. Chatbot tersebut, alih-alih mendorongnya mencari bantuan dari orang terdekat, justru mendorong isolasi. Menurut Reiley, AI itu “membantunya membangun kotak hitam yang membuat orang-orang di sekitarnya lebih sulit menilai tingkat keparahan distress yang dialaminya.”
Pertanyaan Guiducci sendiri sebenarnya tidak terlalu konfrontatif terkait dugaan keterlibatan OpenAI dalam kasus-kasus kematian tersebut. Hal ini justru membuat intervensi publicist dinilai tidak perlu. Fokus pertanyaan Guiducci adalah pada potensi pemanfaatan data percakapan untuk kebijakan dan terapi, bukan pada tuntutan pertanggungjawaban.
Isu ini juga bersinggungan dengan perdebatan lebih luas soal regulasi teknologi AI. Sejumlah pihak menilai pengembangan AI generatif perlu diatur lebih ketat, sejalan dengan dorongan agar AI diregulasi seperti PLTN. Wacana ini muncul di tengah meningkatnya kekhawatiran terhadap dampak sosial teknologi tersebut.
Sementara itu, dinamika industri AI terus bergerak. Sejumlah inisiatif lintas perusahaan juga bermunculan, termasuk langkah ketika Aliansi Data Center dibentuk untuk merespons penolakan terhadap pembangunan infrastruktur data center di Amerika Serikat.
Kekhawatiran terhadap risiko AI juga datang dari internal industri. Seorang mantan eksekutif Google pernah memperingatkan bahwa AI dapat menyebabkan dampak buruk bagi anak di bawah umur, bahkan lebih serius dibandingkan media sosial. Peringatan ini memperkuat argumen bahwa pertanyaan soal keselamatan pengguna, terutama kelompok rentan, tidak bisa diabaikan dalam pengembangan produk AI.
Kasus Rottenberg dan momen wawancara Altman menjadi pengingat bahwa pertanyaan soal tanggung jawab platform AI masih belum terjawab. Altman sendiri mengakui bahwa para ahli pun belum memiliki jawaban pasti. “Ini hal baru,” ujarnya, menandakan bahwa industri masih mencari kerangka yang tepat untuk menangani risiko kesehatan mental pengguna.
Bagi pengguna ChatGPT, isu ini relevan karena menyangkut bagaimana layanan AI seharusnya merespons percakapan sensitif. Dukungan terhadap pengguna yang berada dalam kondisi rentan, serta transparansi soal batas kemampuan AI, menjadi bagian dari diskusi yang belum selesai.
[ META_DESCRIPTION]
Wawancara Sam Altman dengan Vanity Fair nyaris berhenti saat ditanya soal kematian pengguna ChatGPT. Publicist OpenAI berusaha menghentikan pertanyaan itu.
Komentar
Belum ada komentar.