Telset.id – Michigan Department of Corrections (MDOC) akan mulai menggunakan sistem AI dari perusahaan nirlaba Recidiviz untuk mengklasifikasikan narapidana berdasarkan tingkat bahaya, dengan pilot program di sejumlah fasilitas pria dimulai Desember. Langkah ini mengubah cara penentuan level hunian yang sebelumnya dilakukan komite staf di tiap fasilitas, dan langsung memunculkan pertanyaan soal data apa yang dipakai algoritma tersebut.
MDOC menyebut perangkat lunak Recidiviz akan digunakan untuk “mengoptimalkan penempatan narapidana”. Lembaga itu juga memperkirakan alat AI tersebut mampu “meningkatkan kemampuan MDOC memprediksi risiko kekerasan di masa depan secara lebih akurat sekitar 30 persen”. Namun, bagaimana angka 30 persen itu dihitung tidak dijelaskan secara rinci.
Di Michigan, narapidana dipisahkan ke dalam lima level hunian sesuai klasifikasi keamanan. Sebelumnya, penyaringan dilakukan oleh komite staf yang ditunjuk Warden di setiap fasilitas. Kini, keputusan tersebut tampaknya akan dialihkan, atau setidaknya sangat dipengaruhi, oleh perusahaan teknologi nirlaba bernama Recidiviz.
Jejak Recidiviz dan Dampak Klasifikasi Hunian
Recidiviz awalnya merupakan proyek organisasi data di Google yang bertujuan “mengungkap bagaimana teknologi dapat menstandarkan data peradilan pidana dan memperbaiki sistem secara nasional”. Platform perangkat lunaknya yang terintegrasi AI disebut memiliki fitur seperti mengidentifikasi individu yang memenuhi syarat untuk program yang ditawarkan negara bagian, reklasifikasi, atau pembebasan, serta mengoordinasikan akses ke sumber daya seperti hunian transisi dan lapangan kerja.
Bagi narapidana, penetapan hunian sangat menentukan. Klasifikasi itu memengaruhi program dan sumber daya apa yang bisa mereka akses, serta dengan populasi seperti apa mereka akan ditempatkan selama menjalani hukuman. Karena itu, setiap perubahan metode klasifikasi berimplikasi langsung pada kehidupan sehari-hari narapidana.
Kemitraan MDOC dan Recidiviz juga meninggalkan sejumlah pertanyaan besar. Salah satunya soal jenis data yang akan dikumpulkan, yang sangat menentukan akurasi sistem AI tersebut. Pertanyaan ini bukan tanpa dasar, mengingat pengalaman program serupa di negara bagian lain.
Baca Juga:
Pelajaran dari Louisiana dan Risiko Bias Data
Investigasi ProPublica terhadap program analisis risiko serupa di Louisiana menemukan bahwa jenis data yang digunakan untuk mengklasifikasikan narapidana mengandung bias rasial dan sosial-ekonomi bawaan. Akibatnya, sistem pemasyarakatan Louisiana menjadi lebih kejam dan merugikan bagi mereka yang sungguh-sungguh berupaya menjalani rehabilitasi.
Dalam salah satu kasus yang dilaporkan ProPublica, seorang narapidana berusia 70 tahun yang buta dan menggunakan kursi roda ditetapkan sebagai “risiko moderat” untuk mengulangi tindak pidana, meskipun catatan disiplinernya bersih. Klasifikasi itu berujung pada hilangnya kelayakan untuk pembebasan bersyarat secara otomatis.
Meski sistem Michigan diarahkan pada penempatan hunian, bukan keputusan pembebasan bersyarat, perangkat lunak semata tampaknya tidak akan menyelesaikan krisis pemasyarakatan yang sedang berlangsung di negara bagian tersebut. Jika pengalaman Louisiana menjadi contoh, langkah ini berpotensi memperburuk keadaan.
MDOC telah dihubungi untuk memberikan komentar terkait rencana ini. Sampai saat itu, sejumlah pertanyaan soal transparansi data, metode penilaian risiko, dan pengawasan terhadap algoritma masih belum terjawab.
Isu klasifikasi berbasis AI ini juga menjadi bagian dari perdebatan yang lebih luas soal penggunaan teknologi di sektor publik. Seperti halnya dinamika Hipokrasi AI China yang menunjukkan bagaimana adopsi AI kerap berjalan lebih cepat dari kesiapan tata kelolanya, penerapan algoritma di sistem pemasyarakatan menuntut kejelasan soal data dan akuntabilitas.
Bagi publik, keputusan Michigan ini menandai babak baru penggunaan AI dalam pengambilan keputusan yang menyangkut kebebasan dan kualitas hidup seseorang. Pilot program pada Desember akan menjadi titik uji pertama, sekaligus momen untuk menilai apakah janji akurasi 30 persen itu benar-benar terwujud di lapangan.
[SOURCE]
Referensi: Fox2 Detroit, ProPublica, MDOC
Komentar
Belum ada komentar.