Telset.id – Menghapus percakapan dengan chatbot AI di ponsel ternyata bukan jaminan data itu benar-benar lenyap. Peneliti Georgia Tech membuktikan hal tersebut melalui ORISA, sebuah alat forensik yang mampu menggali percakapan AI yang sudah dihapus dari perangkat dan menyusunnya kembali menjadi sesi chatbot yang tetap bisa diajak berinteraksi. Temuan ini menjadi peringatan bagi pengguna aplikasi AI on-device yang mengira tombol hapus berarti data hilang permanen.
Menjalankan asisten AI secara lokal di ponsel memang terkesan lebih privat karena percakapan tidak dikirim ke cloud. Namun, data tersebut tetap tersimpan di memori kerja ponsel selama aplikasi berjalan. Konsekuensinya, menghapus chat melalui antarmuka aplikasi tidak otomatis menghilangkan jejaknya dari memori perangkat.
ORISA bekerja dengan mencari sisa-sisa fragmen data yang tertinggal, lalu menyambungkannya kembali menjadi sesi AI yang hidup dan berfungsi. Pendekatan ini menunjukkan bahwa penghapusan di lapisan antarmuka tidak selalu berbanding lurus dengan penghapusan di lapisan memori. Bagi pengguna yang mengandalkan aplikasi AI lokal untuk menyimpan catatan atau informasi sensitif, temuan ini relevan untuk dipahami.
Uji Coba ORISA dan Batas Pemulihan Data
Dalam salah satu pengujian, peneliti membuat asisten fiktif bernama Project Note Keeper. Asisten itu diberi 100 fakta, kemudian percakapannya dihapus seluruhnya. Karena jendela memori model terbatas, sesi aktif hanya mampu mengakses 14 dari fakta tersebut pada saat percakapan dihapus.
Meski demikian, ORISA berhasil memulihkan 26 fakta, atau lebih banyak dibanding yang bisa diakses sesi asli pada saat itu. Hasil ini tergolong pemulihan sebagian dari keseluruhan informasi yang semula dibagikan, tetapi cukup menunjukkan bahwa ORISA dapat mengambil data melebihi kapasitas yang dimiliki sesi live sebelumnya.
Pengujian diperluas ke 60 konfigurasi uji yang mencakup 10 aplikasi Android dan tiga model AI berbeda. Pada seluruh konfigurasi tersebut, alat ini berhasil memulihkan data percakapan yang telah dihapus. Cakupan uji yang cukup luas ini memperlihatkan bahwa persoalan bukan berasal dari satu aplikasi tertentu, melainkan dari cara data bertahan di memori perangkat.
Baca Juga:
Nilai Forensik dan Kekhawatiran Privasi
Menurut para peneliti, ORISA dapat membantu penyidik digital merekonstruksi apa yang pernah dibagikan seseorang kepada asisten AI dan saran apa yang diterima. Kemampuan ini memiliki nilai forensik nyata, termasuk untuk menyelidiki kasus ketika saran chatbot AI berpotensi merugikan pasien, sementara percakapan tersebut tidak pernah dibagikan kepada dokter mereka.
Di sisi lain, kapabilitas yang sama memunculkan kekhawatiran privasi bagi pengguna aplikasi AI on-device. Menghapus percakapan ternyata bukan pemisah bersih seperti yang mungkin diharapkan. Data yang dianggap sudah hilang bisa saja masih tersisa dalam bentuk fragmen di memori.
Perlu dicatat, ORISA saat ini merupakan alat forensik yang dirancang untuk penyidik, bukan aplikasi biasa yang bisa dipakai siapa pun untuk memulihkan chat yang telah dihapus. Alat ini juga memerlukan akses ke salinan memori dan penyimpanan ponsel. Proses pemulihan menjadi lebih sulit ketika aktivitas lain menimpa data yang relevan.
Meski begitu, riset ini menyorot seberapa besar data yang mungkin masih disimpan aplikasi AI lokal di balik layar. Isu penyimpanan data oleh layanan AI juga menjadi perhatian di sektor lain, sebagaimana terlihat dalam riset keamanan OpenAI yang memunculkan surat terbuka soal kekhawatiran terhadap praktik internal pengembang AI.
Pembahasan mengenai perilaku model AI juga semakin luas, mulai dari kemampuan model memperbaiki alignment sendiri hingga pengujian model dalam skenario nyata. Sejumlah pengujian bahkan menunjukkan keterbatasan model canggih saat diminta mengemudi, seperti dalam laporan AI gagal setir Toyota Corolla. Temuan-temuan ini menegaskan bahwa pemahaman atas cara kerja dan penyimpanan data AI perlu terus diperbarui.
Bagi pengguna aplikasi AI lokal, implikasi praktisnya cukup jelas: percakapan yang dihapus melalui antarmuka tidak serta-merta hilang dari memori perangkat. Selama aplikasi berjalan dan data masih berada di memori kerja, jejaknya berpotensi ditemukan kembali oleh alat seperti ORISA. Karena itu, kehati-hatian dalam membagikan informasi sensitif kepada asisten AI on-device tetap relevan, terutama ketika perangkat yang sama dapat diakses pihak lain atau diperiksa untuk keperluan investigasi.
Riset Georgia Tech ini tidak menawarkan solusi bagi pengguna umum, melainkan menempatkan ORISA sebagai instrumen investigasi. Namun, temuan bahwa data dapat dipulihkan dari 10 aplikasi Android dan tiga model AI berbeda menunjukkan bahwa isu ini bersifat struktural, bukan kasus terisolasi. Bagi industri, hasil riset ini menjadi pengingat bahwa klaim privasi pada aplikasi AI lokal perlu dilihat secara lebih kritis, terutama menyangkut cara data diperlakukan setelah pengguna menekan tombol hapus.
Komentar
Belum ada komentar.