Waymo Bisa Panggil Polisi Sendiri dari Kamera di Dalam Mobil

Telset.id – Waymo kini bisa memanggil polisi sendiri setelah sistem kamera dan kecerdasan buatan atau AI di dalam robotaxi mendeteksi dugaan pelanggaran syarat layanan, termasuk keberadaan senjata api. Kemampuan itu terungkap setelah dua remaja yang menaiki salah satu kendaraan otonom Waymo berakhir di kursi belakang mobil polisi pada awal September.

Dikutip dari laporan The Verge, Waymo menyatakan mendeteksi “a violation of our terms of service involving a firearm”, kemudian menghentikan kendaraannya di pinggir jalan dan menghubungi layanan darurat. Polisi menangkap kedua penumpang setelah diduga menemukan senjata bergaya AR berjenis “ghost gun” yang terisi peluru di dalam kendaraan tersebut.

Kasus ini membuka sejumlah pertanyaan yang belum terjawab soal privasi dan kendaraan otonom, mulai dari apa yang direkam, bagaimana rekaman itu digunakan, hingga seberapa besar privasi yang seharusnya diharapkan penumpang selama berada di dalamnya. Mobil Waymo yang penuh kamera memang sudah lama terseret ke dalam perdebatan soal privasi dan pengawasan.

Pada sejumlah kesempatan, aparat penegak hukum pernah memperoleh surat perintah penggeledahan untuk rekaman yang ditangkap mobil Waymo. Tahun lalu, LAPD memperoleh rekaman insiden tabrak lari yang direkam kendaraan Waymo di sekitarnya. Saat aksi protes anti-ICE di Los Angeles, lima Waymo dirusak dan dibakar di tengah pertanyaan apakah kendaraan itu bisa merekam gambar pengunjuk rasa yang mungkin dipakai sebagai bukti untuk mengidentifikasi atau menangkap mereka.

Waymo tidak mengungkapkan secara publik berapa banyak permintaan penegak hukum yang diterimanya atau seberapa sering pihaknya memenuhinya. Kekhawatiran itu menggemakan reaksi terhadap jaringan pembaca pelat nomor otomatis milik Flock, yang memberi polisi kemampuan melacak mobil lintas yurisdiksi dan memicu kekhawatiran soal pengawasan pemerintah serta penyalahgunaan. Berbeda dari kamera Flock yang menetap, Waymo bergerak melalui kota dengan membawa kamera di luar dan di dalam kendaraan.

Kasus penangkapan remaja terbaru membawa kekhawatiran itu selangkah lebih jauh. Polisi tidak mendatangi Waymo setelah sebuah kejahatan untuk mencari rekaman yang kebetulan terekam kameranya. Waymo yang mendeteksi sesuatu di dalam mobil dan memprakarsai respons polisi itu sendiri.

Juru bicara Waymo, Julia Ilina, mengatakan kepada The Verge melalui surel bahwa perusahaan menggunakan kamera internalnya untuk membantu menegakkan syarat layanan, termasuk mendeteksi barang dan perilaku yang dilarang. Ia menyebut Waymo memakai teknologi otomatis untuk membantu timnya mengidentifikasi potensi pelanggaran, seperti keberadaan senjata api di dalam kendaraan. “If Waymo detects a firearm in the vehicle, we may reach out to local law enforcement,” tambahnya.

Waymo tidak menjelaskan bagaimana sistem otomatisnya menentukan apakah sesuatu mungkin merupakan senjata api, seberapa tinggi tingkat keyakinan yang dibutuhkan sebelum sesuatu ditandai, apa peran manusia antara peringatan otomatis dan panggilan ke polisi, atau pelanggaran syarat layanan lain apa yang bisa memicu respons polisi. Omissions itu penting. Ini bukan pengemudi taksi manusia yang memutuskan menelepon 911. Ini mobil tanpa pengemudi, dilengkapi kamera dan otak AI, yang mengeskalasi situasi yang melibatkan penumpangnya ke polisi.

Bob Somers, mantan insinyur di perusahaan kendaraan otonom Zoox dan penasihat teknis untuk nonprofit keselamatan AV SAVE-US, mengatakan ia memperkirakan sistem Waymo mencari berbagai senjata dan perilaku yang berpotensi berbahaya. Perangkat lunak itu mungkin tidak perlu memutuskan dengan pasti bahwa ia telah melihat senjata api. Sistem bisa menandai sesuatu yang menyerupai senjata api untuk ditinjau lebih lanjut.

“If there is a certain set of objects detected, then that would probably loop in a remote operator to take a look at what’s going on,” kata Somers.

Phil Koopman, profesor emeritus Carnegie Mellon University yang meneliti keselamatan kendaraan otonom, mengatakan sistem computer vision dapat dilatih untuk mengenali objek dan situasi yang berpotensi berbahaya. “If you can train a computer to look at the road and decide how to drive, you can train a computer to decide if somebody’s holding a gun,” kata Koopman. Namun, ia menambahkan, sistem semacam itu “never 100 percent accurate”.

Di situlah pertanyaan tak terjawab soal tinjauan manusia menjadi penting. Pengemudi taksi manusia yang melihat penumpang memegang sesuatu memiliki konteks. Mereka berada di dalam mobil sepanjang perjalanan, bisa mendengar apa yang dikatakan penumpang dan mengajukan pertanyaan, serta bisa memutuskan apakah objek itu senjata asli, mainan, atau sesuatu yang sama sekali berbeda.

Pada Juli lalu, Waymo melaporkan dua remaja ke polisi karena minum-minuman beralkohol di bawah umur dan menembakkan pistol mainan berisi water beads dari kendaraan. Belum jelas apakah para remaja itu akhirnya menghadapi tuntutan.

Pekerja remote yang dilibatkan untuk meninjau momen yang ditandai mungkin tidak memiliki semua konteks itu karena mereka tidak mengalami seluruh perjalanan seperti yang dialami pengemudi manusia. Waymo menyatakan mikrofon interiornya umumnya aktif hanya selama panggilan dengan Rider Support atau ketika penumpang mengaktifkannya, yang berarti peninjau mungkin tidak bisa mendengar apa yang terjadi sebelum momen yang ditandai.

Per awal tahun ini, Waymo memiliki sekitar 70 “remote assistance agents” yang bertugas pada satu waktu di AS dan Filipina, yang “provide advice and support to the Waymo Driver but do not directly control, steer, or drive the vehicle”. Waymo belum mengatakan apakah orang-orang yang meninjau kemungkinan pelanggaran di dalam mobilnya termasuk di antara agen tersebut.

“It’s really important that Waymo gets it right when they alert the police to something dangerous,” kata Koopman. Selain merusak kepercayaan penumpang terhadap robotaxi, alarm palsu bisa menempatkan penumpang dalam risiko selama pertemuan dengan polisi.

Lalu ada pertanyaan soal apa yang Waymo beritahukan kepada penumpang untuk diharapkan. Tanpa pengemudi di kursi depan, robotaxi bisa terasa lebih privat daripada kenyataannya. Pada 2023, San Francisco Standard berbicara dengan empat orang yang mengaku pernah berhubungan intim atau berhubungan seks di dalam robotaxi Cruise, meskipun ada kamera di dalamnya. Publikasi itu tidak menemukan siapa pun yang mengaku melakukannya di Waymo, tetapi episode itu menggambarkan betapa mudahnya penumpang keliru menganggap tidak adanya pengemudi manusia sebagai tidak adanya saksi.

Syarat layanan Waymo mewajibkan penumpang mematuhi hukum yang berlaku dan melarang mereka menciptakan kondisi berbahaya, membawa senjata “or anything that resembles a weapon, e.g. toy gun”, atau menggunakan narkoba. Penumpang harus berusia minimal 18 tahun untuk naik sendirian di San Francisco. Dua penumpang yang ditangkap bulan ini diduga melanggar batas usia sekaligus larangan senjata. Syarat layanan menyebut Waymo dapat menangguhkan atau mengakhiri akses penumpang jika meyakini penumpang melanggar aturan.

Awal tahun ini, Waymo menangguhkan akun yang dipakai memesan perjalanan setelah tiga anak laki-laki difoto menjulurkan kepala dari jendela kendaraan dan berswafoto. Namun ketentuan itu tidak secara gamblang memberi tahu penumpang bahwa perusahaan dapat menelepon polisi berdasarkan apa yang dilihatnya di dalam mobil.

Kebijakan kamera publik Waymo menyatakan kamera interiornya dapat digunakan untuk “check that in-car rules are being followed” dan “promote safety and security”. Disebutkan pula bahwa Waymo Support dapat meninjau video rekaman setelah suatu masalah dilaporkan ke perusahaan dan, dalam keadaan mendesak, mengakses video langsung selama perjalanan. Kebijakan itu juga menyatakan Waymo dapat membagikan data tertentu kepada penegak hukum sesuai kebutuhan untuk mematuhi persyaratan hukum, menegakkan perjanjian, atau melindungi keselamatan penumpang dan pihak lain. Namun kebijakan itu tidak merinci bahwa pemantauan otomatis di dalam kendaraan dapat memicu Waymo sendiri menghubungi polisi.

Hayley Tsukayama, director of state affairs di Electronic Frontier Foundation, menyebut kebijakan publik Waymo “very broad”. Menurutnya, penumpang tidak seharusnya harus menyimpulkan dari bahasa soal “safety and security” bahwa perilaku mereka bisa berujung pada respons polisi. Ia menambahkan Waymo seharusnya mengungkapkan kemungkinan itu secara jelas sebelum penumpang masuk ke mobil.

“I’m not condoning illegal behavior in rideshares,” katanya, tetapi “if they’re going to share it with authorities, then that should be clearly stated in the policy.” Seperti kondisi saat ini, kata Tsukayama, “it is outside of the expectations of consumers.”

Robotaxi sendiri memang di luar kebiasaan. Saat keberadaannya makin umum, penumpang mungkin harus mengembangkan seperangkat ekspektasi baru soal apa yang terjadi di dalamnya. Pengemudi manusia bisa memutuskan bagaimana merespons apa yang terjadi di mobilnya. Di robotaxi, kamera dan perangkat lunak dapat menandai apa yang terjadi di dalam, pekerja remote mungkin terlibat, dan kendaraan dapat menepi sementara polisi dipanggil.

Sistem Waymo mungkin telah membantu polisi menemukan senjata api ilegal dalam kasus ini. Namun insiden itu juga memunculkan pertanyaan lebih mendasar soal ruang seperti apa sebuah robotaxi: perjalanan dengan kamera untuk keselamatan, ruang yang terus dipantau, atau sistem yang bisa memanggil polisi terhadap penumpangnya sendiri.

Pertanyaan itu sudah muncul dalam fiksi. Robotaxi mulai tampil sebagai penjahat dalam Road Rage, film pendek yang akan datang tentang mobil tanpa pengemudi yang berbalik melawan manusia. Salah satu gagasan film itu yang lebih mengganggu adalah bahwa robotaxi bisa berakhir bertindak tidak sekadar sebagai transportasi, melainkan lebih mirip penegak hukum. Bulan ini memberi gambaran seperti apa bentuknya.

Bagi pengguna biasa, perkembangan ini menegaskan bahwa kendaraan otonom bukan ruang privat. Seperti halnya Tren Your Algorithm yang menunjukkan bagaimana algoritma membaca perilaku pengguna, sistem di dalam robotaxi memantau apa yang terjadi di kabin. Pilihan teknologi yang tersedia bagi konsumen pun kian beragam, mulai dari pembaruan perangkat seperti Google Contacts Update hingga layanan hiburan seperti Serial Spider-Man yang turut membentuk ekspektasi baru terhadap produk digital.