Kesalahan Fatal Face Recognition: Nelayan Ditangkap gegara Akurasi Palsu

Telset.id – Seorang nelayan kepiting di Florida, Robert Dillon, ditangkap dan ditahan setelah sistem pengenalan wajah (face recognition) milik kepolisian setempat secara keliru mencocokkan fotonya dengan gambar tersangka pelecehan anak. Sistem yang bernama FACES itu memberikan skor kecocokan 93 persen, namun skor tersebut hanya menunjukkan kemiripan visual antar gambar, bukan probabilitas bahwa kedua foto itu adalah orang yang sama.

Insiden ini terjadi pada November 2023, ketika seorang pria mendekati seorang gadis di bawah 12 tahun di sebuah McDonald’s di Jacksonville Beach dan berulang kali memintanya pergi bersamanya. Pria itu pergi sebelum polisi tiba. Enam bulan kemudian, pada Juli 2024, petugas penyidik mengajukan surat perintah penangkapan berdasarkan hasil FACES yang kemudian ditandatangani hakim. Dillon ditangkap pada Agustus 2024 di depan istrinya, ditahan semalaman di sel yang dingin, dan diangkut dengan van tanpa lampu dan berkandang.

Gugatan yang diajukan oleh American Civil Liberties Union (ACLU) mengungkapkan bahwa beberapa fakta penting yang seharusnya membebaskan Dillon tidak pernah sampai ke meja hakim. Manajer McDonald’s setempat mengatakan tersangka adalah “pelanggan tetap” yang sering terlihat di sana, sementara Dillon tinggal ratusan mil jauhnya dan tidak pernah mengunjungi Jacksonville Beach. Pencarian plat nomor kendaraan Dillon juga tidak menunjukkan keberadaannya di daerah tersebut pada hari kejadian, namun hasil ini dihilangkan dari aplikasi surat perintah.

FACES adalah sistem pengenalan wajah yang dioperasikan oleh Kantor Sheriff Pinellas County sejak 2001, menjadikannya salah satu database kepolisian tertua di Amerika Serikat. Database ini menyimpan puluhan juta foto mug shot dan foto SIM Florida. Pada puncaknya di tahun 2021, sistem ini dapat diakses oleh lebih dari 260 lembaga, termasuk FBI dan ICE. Investigasi sebelumnya menemukan bahwa sistem ini beroperasi dengan sedikit pengawasan dan tidak ada audit yang dilakukan terhadap penggunaannya.

“Saya tidak akan pernah bisa melupakan betapa ketakutan dan khawatirnya saya, bertanya-tanya apakah saya akan pernah pulang ke istri dan anak perempuan saya lagi,” kata Dillon dalam pernyataan yang dibagikan oleh pengacaranya. “Lebih dari setahun kemudian, saya masih merangkai kembali potongan-potongan hidup saya, semua karena polisi mengandalkan teknologi berbahaya ini alih-alih melakukan pekerjaan mereka dan benar-benar menyelidiki.”

Gugatan tersebut menuntut ganti rugi kompensasi dan punitif, serta meminta pengadilan memerintahkan ketiga lembaga terkait untuk merombak kebijakan pengenalan wajah mereka. Kantor Sheriff Jacksonville menolak berkomentar karena kasus masih dalam proses litigasi, sementara Kantor Sheriff Pinellas County belum memberikan tanggapan. Menariknya, Sheriff Jacksonville T.K. Waters sebelumnya mengatakan bahwa hasil pengenalan wajah saja tidak cukup untuk menjadi dasar probable cause: “Jika Anda datang kepada saya dengan hasil pengenalan wajah dan itu adalah probable cause Anda, saya mungkin akan mengusir Anda dari kantor saya,” ujarnya.

Kasus Dillon bukanlah yang pertama. ACLU menyebutkan setidaknya ada 15 kasus penangkapan salah yang diketahui di Amerika Serikat akibat teknologi pengenalan wajah. Awal tahun ini, kantor sheriff yang sama di Jacksonville secara keliru menangkap seorang pria dari North Carolina dalam investigasi pencurian mobil. Ia menghabiskan hampir tiga bulan di penjara setelah kecocokan 85 persen menyebabkan penangkapannya. Pada saat tuduhan dibatalkan, ia telah kehilangan rumah, pekerjaan, dan hak asuh kedua anaknya.

“Tidak seorang pun boleh kehilangan kebebasan atau takut meninggalkan rumah karena algoritma salah,” kata Nate Wessler, wakil direktur ACLU’s Speech, Privacy, and Technology Project. “Polisi di seluruh negeri mendapat peringatan. Teknologi pengenalan wajah yang tidak dapat diandalkan menyakiti orang, dan kami akan terus berjuang untuk membuat mereka bertanggung jawab atas penyalahgunaan ini.”

Kejadian ini menunjukkan bahwa sistem Studi: Chatbot Frontier Rentan Validasi Delusi Pengguna dapat memiliki konsekuensi serius ketika digunakan tanpa verifikasi yang memadai. Skor kecocokan yang dihasilkan oleh algoritma, meskipun tinggi seperti 93 persen, tidak boleh dijadikan satu-satunya dasar untuk tindakan hukum yang mengubah hidup seseorang.

Dillon, yang berusia 52 tahun, adalah nelayan kepiting komersial dari Fort Myers. Penangkapan terjadi pada puncak musim kepiting batu, menyebabkan ia tertinggal dalam pembayaran sewa dan hampir kehilangan rumahnya. Foto mug shot-nya tetap online selama hampir setahun, baru dihapus dari situs web county setelah seorang reporter TV turun tangan. Orang asing masih menghampiri Dillon di tempat umum untuk menanyakan kasusnya, dan ia tidak lagi merasa nyaman berbicara dengan anak-anak.

Implikasi dari kasus ini sangat jelas: teknologi pengenalan wajah yang diandalkan tanpa pengawasan dan verifikasi yang memadai dapat menyebabkan kesalahan fatal yang menghancurkan kehidupan individu yang tidak bersalah. Sistem seperti FACES, yang telah beroperasi sejak 2001, membutuhkan reformasi kebijakan yang ketat untuk mencegah terulangnya insiden serupa di masa depan.

Petugas penyidik dalam kasus ini justru dipromosikan pada akhir tahun setelah tuduhan terhadap Dillon dibatalkan. Sementara itu, Dillon masih berjuang untuk memulihkan hidupnya. Ia menjaminkan truknya untuk membayar jaminan dan harus menyewa pengacara pidana untuk membela diri. Kasus ini menjadi pengingat bahwa kemajuan teknologi harus diimbangi dengan perlindungan hak-hak sipil dan prosedur investigasi yang ketat.

ACLU menyerukan kepada departemen kepolisian Florida untuk memperbaiki kesalahan dan mengadopsi langkah-langkah pengamanan untuk mencegah penangkapan salah di masa depan. Gugatan ini juga meminta pengadilan untuk memerintahkan perombakan kebijakan pengenalan wajah di tiga lembaga terkait, yang diharapkan dapat menjadi preseden bagi reformasi sistemik di seluruh negeri.

Kasus Gugatan OpenAI Diperbarui, ChatGPT Dituding Lemahkan Pengaman Bunuh Diri menunjukkan bahwa masalah akurasi dan keandalan teknologi AI bukanlah isu yang terisolasi. Kebutuhan akan regulasi yang ketat dan transparansi dalam penggunaan teknologi pengenalan wajah oleh aparat penegak hukum semakin mendesak untuk mencegah terulangnya tragedi serupa di masa depan.