Telset.id – Perusahaan AI Anthropic melaporkan salah satu pengguna chatbot Claude kepada pihak kepolisian setelah sistem pemantauan internalnya menandai log percakapan berisi rencana ancaman kekerasan. Langkah ini menjadi bukti terbaru bahwa percakapan pengguna dengan layanan AI tidak sepenuhnya privat dan dapat dibaca oleh karyawan perusahaan.
Menurut laporan WINK News, perempuan bernama Carli Michelle Heller ditangkap di Bonita Springs, Florida, setelah diduga memberitahu chatbot Claude milik Anthropic tentang rencananya untuk “shoot up” atau menembaki kantor sheriff setempat. Heller dijerat dengan tuduhan membuat ancaman kekerasan tertulis, yang merupakan kejahatan tingkat dua atau second-degree felony di Florida.
Kasus ini bermula ketika perangkat lunak pemantauan internal Anthropic menandai log obrolan Heller untuk ditinjau oleh manusia. Setelah diperiksa oleh seorang karyawan Anthropic, perusahaan menyimpulkan bahwa rencana Heller masuk dalam kategori ancaman yang kredibel, dan akhirnya menginformasikan hal tersebut kepada polisi lokal.
Sheriff Lee County, Carmine Marceno, dalam pernyataannya kepada wartawan lokal menyebut bahwa perempuan tersebut mengaku menggunakan Claude layaknya sebuah “diary” atau buku harian. Ia tampaknya tidak menyadari bahwa riwayat obrolannya dapat dibaca oleh karyawan Anthropic.
Ketegangan antara Privasi Pengguna dan Tanggung Jawab Perusahaan AI
Kasus Heller menyoroti adanya ketegangan nyata antara privasi pengguna dan tanggung jawab perusahaan AI untuk mencegah peristiwa kekerasan. Persoalan ini bukan hal baru di industri, terutama setelah insiden penembakan massal pada Februari di Tumbler Ridge, Kanada.
Dalam peristiwa tersebut, terungkap bahwa pelaku sangat bergantung pada ChatGPT untuk merencanakan aksi penembakannya. Staf OpenAI dikabarkan telah mengetahui keberadaan log obrolan tersebut sebelum insiden terjadi, dan log itu bahkan telah ditandai untuk ditinjau manusia beberapa bulan sebelumnya. Namun, eksekutif perusahaan justru berupaya menyembunyikan dan kemudian meremehkan peran produk mereka dalam mendorong serangan mematikan itu.
Rekam jejak Anthropic sendiri terkait dampak nyata di dunia juga dinilai buruk. Meski demikian, langkah perusahaan dalam kasus Heller dinilai sebagai upaya untuk menghindari insiden serupa dengan yang terjadi pada OpenAI. Persoalannya, dengan semakin banyaknya pilihan chatbot di pasar saat ini, upaya pencegahan semacam itu bisa saja sudah terlambat untuk mencegah tragedi berikutnya yang dibantu AI.
Perkembangan pengawasan terhadap perusahaan AI seperti Anthropic dan OpenAI memang terus menjadi sorotan. Sejumlah pengujian terhadap mekanisme pengawasan keduanya bahkan pernah menjadi perhatian publik dalam Pengawasan AI Diuji setelah insiden yang melibatkan agen nakal.
Baca Juga:
Implikasi bagi Pengguna Chatbot di Indonesia
Kasus ini menunjukkan bahwa apa pun yang diketik pengguna ke dalam chatbot dapat berpotensi dibaca oleh pihak ketiga, termasuk karyawan perusahaan pengembang AI. Mekanisme pemantauan internal memang dirancang untuk mendeteksi konten berbahaya, tetapi konsekuensinya adalah hilangnya ekspektasi privasi bagi pengguna.
Bagi pengguna chatbot di Indonesia, penting untuk memahami bahwa riwayat percakapan dengan layanan AI tidak bersifat rahasia sepenuhnya. Sistem pemantauan dapat menandai konten tertentu, dan jika dinilai membahayakan, perusahaan berhak meninjau serta melaporkannya ke otoritas terkait.
Anthropic sendiri bukan pertama kali menjadi sorotan publik. Perusahaan ini pernah dilaporkan dalam Laporan Anthropic terkait potensi AI mengacaukan pemilu di Asia Tenggara. Selain itu, ada pula kasus Hacker China yang memalsukan peneliti Anthropic untuk mengincar rahasia AI Amerika Serikat.
Kasus Heller menjadi pengingat bahwa batas antara privasi digital dan tanggung jawab keselamatan publik semakin kabur di tengah adopsi chatbot yang masif. Perusahaan AI kini berada dalam posisi yang sulit: di satu sisi harus melindungi privasi pengguna, di sisi lain dituntut untuk mencegah potensi bahaya nyata yang muncul dari percakapan di platform mereka.
Anthropic memilih untuk bertindak dengan melaporkan ancaman tersebut ke pihak berwenang, sebuah langkah yang secara langsung berdampak pada kebebasan seorang pengguna. Keputusan ini menegaskan bahwa percakapan dengan chatbot tidak dapat dianggap sebagai ruang pribadi yang sepenuhnya terlindungi, terutama ketika sistem mendeteksi indikasi ancaman kekerasan.
Komentar
Belum ada komentar.