Telset.id – Seorang wanita asal Lee County, Florida, ditangkap dengan tuduhan kejahatan berat setelah ancaman yang tertulis dalam percakapan dengan chatbot Anthropic Claude dilaporkan ke aparat penegak hukum melalui tim peninjau manusia (human review) Anthropic. Laporan penangkapan tersebut memuat pernyataan tertanggal 26 September dari pengguna yang teridentifikasi sebagai “Carli” yang menyatakan akan “shoot up” Kantor Sheriff Lee County (LCSO), dan diduga sebuah pesan pada hari berikutnya menyebut tentang senjata api baru. Percakapan itu setidaknya menjadi kasus ketiga sejenis yang sampai ke kepolisian sejak Agustus.
Anthropic memantau obrolan untuk frasa kunci dan konten yang dapat dinilai mengancam, demikian menurut laporan penangkapan. Bergantung pada tingkat keparahannya, temuan tersebut dapat ditingkatkan ke tahap peninjauan manusia. Dalam kasus ini, tim memutuskan untuk melaporkan temuannya kepada aparat penegak hukum. Wanita asal Bonita Springs itu ditahan di rumahnya tanpa insiden, dan seorang detektif intelijen LCSO mengambil alih kasus tersebut.
Laporan penangkapan belum masuk ke berkas pengadilan, namun pengecekan independen menunjukkan catatan pengadilan mencantumkan tuduhan kejahatan berat tertanggal 30 September berdasarkan Florida Statute 836.10: ancaman tertulis atau elektronik berupa penembakan massal atau tindakan terorisme. Hingga kini belum ada komentar dari Anthropic terkait kasus tersebut.
Kebijakan privasi publik Anthropic yang berlaku efektif 10 September menyatakan bahwa pengungkapan kepada aparat penegak hukum dapat dilakukan jika perusahaan memiliki keyakinan dengan itikad baik bahwa “pengungkapan tersebut cukup diperlukan untuk … mencegah kerugian serius terhadap seseorang atau properti.” Sementara itu, laporan permintaan pemerintah untuk paruh kedua 2025 menggunakan standar yang lebih sempit untuk pengungkapan darurat, yakni “bahaya kematian atau cedera fisik serius terhadap seseorang,” dan mencatat nol permintaan darurat dari aparat penegak hukum pada periode tersebut, meski tidak menghitung rujukan yang dilakukan Anthropic atas inisiatifnya sendiri.
Sesuai catatan penahanan, tuduhan tersebut terdaftar sebagai “THREAT-TERRORISTIC-STATE OFFENSES-WRITTEN/ELEC THREAT MASS SHOOTING/TERRORISM ACT,” yang mencakup bagian penembakan massal/terorisme dari undang-undang tersebut. Percakapan dengan chatbot itu mungkin masuk dalam cakupan hukum sebagai ancaman yang dikirim, diposting, atau ditransmisikan “dengan cara apa pun yang memungkinkannya dilihat oleh orang lain.” Pesan-pesan yang ditemukan tim peninjau manusia Anthropic, termasuk penyebutan senjata api keesokan harinya, kemungkinan menjadi bukti pendukung penangkapan dan tuduhan tersebut. Tidak ada pengacara yang tercantum dalam berkas perkara, dan seorang pembela umum ditunjuk pada saat tuduhan dijatuhkan.
Baca Juga:
Insiden ini menyusul rangkaian kasus terkini yang terkait dengan penggunaan chatbot dari Anthropic dan rivalnya, OpenAI. Salah satu insiden di San Antonio melibatkan kueri tertanggal 11 Agustus dalam “sebuah obrolan AI Anthropic” tentang penembakan di sebuah sekolah dasar terdekat. Polisi yang diberi tahu oleh FBI menangkap seorang pria berusia 22 tahun dengan tuduhan ancaman terorisme sebagai kejahatan berat. Beberapa hari kemudian di San Francisco, seorang pengguna mengancam CEO Anthropic Dario Amodei dalam obrolan Claude tertanggal 14 Agustus, dengan menyatakan telah membeli AR-15. Anthropic memberi tahu polisi, namun pengguna tersebut akhirnya tidak ditangkap atau dituntut. Kedua kasus tersebut dirinci dalam laporan berita regional.
OpenAI juga menghadapi tantangan serupa di Florida terkait pesan pada Maret ke platform chatbot AI-nya, ChatGPT, di mana pengguna bernama Darren Zhou berbicara tentang membunuh mantan pacarnya, dan OpenAI melaporkannya ke FBI, menurut Palm Beach Post. Zhou mengaku bersalah pada Agustus atas tuduhan termasuk ancaman tertulis untuk membunuh, di bawah undang-undang yang sama, 836.10, dan dijatuhi hukuman delapan tahun masa percobaan. Jaksa agung Florida juga mengajukan gugatan terhadap perusahaan tersebut pada Juni, mengacu pada penembakan Florida State University 2025, dan bulan lalu meminta hakim untuk mengeluarkan injunksi sementara. OpenAI juga digugat oleh British Columbia bulan lalu karena tidak memperingatkan polisi tentang penembak Tumbler Ridge, yang akun ChatGPT-nya, menurut gugatan, telah diidentifikasi delapan bulan sebelum serangan.
Insiden-insiden ini, dan lainnya, menunjukkan pola di mana perusahaan AI diharapkan menghormati privasi sekaligus dimintai tanggung jawab ketika mereka tidak melaporkan ancaman kepada aparat penegak hukum. Meningkatnya pengawasan terhadap kekhawatiran privasi dan keamanan terkait produk AI telah memicu seruan kehati-hatian dari para ahli seperti Chrissann Ruehle dari Florida Gulf Coast University, yang berbicara kepada WINK News. Hal ini sejalan dengan tuntutan akan pedoman yang lebih ketat dan disetujui secara independen, seperti yang diminta oleh jaksa agung Florida.
Bagi pengguna, ini menjadi pengingat bahwa apa yang Anda bagikan dengan teman AI favorit Anda “tidak pernah benar-benar anonim,” seperti yang dikatakan Sheriff Lee County Carmine Marceno kepada WINK News. Percakapan yang ditandai dapat berfungsi sebagai “diary” bagi peninjau manusia, dan hal itu bisa membawa Anda dalam masalah, seperti yang dialami wanita yang teridentifikasi sebagai “Carli”. Detail lebih lanjut tentang kasus ini diperkirakan tersedia setelah sidang pembacaan dakwaan pada 2 November.
Pola kasus serupa juga mencuat dalam berbagai laporan terkait tata kelola AI, termasuk isu penyalahgunaan model untuk konten berbahaya. Sejumlah pengamat industri menyoroti bagaimana model AI tertentu dapat menghasilkan konten jahat jika tidak diawasi dengan ketat. Selain itu, risiko penyalahgunaan identitas dan akses ilegal turut menjadi perhatian, seperti dalam kasus upaya hacker China yang menyusup ke ekosistem AI. Dinamika ini memperlihatkan bahwa tanggung jawab perusahaan AI tidak berhenti pada aspek teknis semata, tetapi juga menyentuh ranah hukum dan etika.
Kasus “Carli” menegaskan bahwa percakapan dengan chatbot bukanlah ruang yang sepenuhnya privat. Apa yang ditulis pengguna dapat dibaca oleh sistem otomatis dan, dalam kondisi tertentu, oleh manusia. Konsekuensi hukumnya nyata, dengan tuduhan kejahatan berat dan proses peradilan yang berjalan. Sementara itu, perusahaan AI berada di posisi sulit: di satu sisi dituntut melindungi privasi pengguna, di sisi lain dihadapkan pada ekspektasi untuk melaporkan ancaman demi keselamatan publik. Perkembangan kasus ini akan terlihat lebih jelas setelah sidang pembacaan dakwaan pada 2 November mendatang.
Komentar
Belum ada komentar.