Telset.id – Check Point Research (CPR) mengungkap adanya celah keamanan pada arsitektur AI agent ChatGPT yang dijuluki “coerced insider”. Kerentanan ini memungkinkan pencurian data sensitif dari satu akun pengguna oleh akun lain yang berbeda melalui mekanisme berbagi metadata internal.
Temuan ini berawal dari cara kerja AI agent ChatGPT saat mengeksekusi kode. Agent memproses tugas dalam container terisolasi yang terkadang perlu menginstal perangkat lunak. Untuk memungkinkan hal tersebut tanpa memberikan akses internet langsung, OpenAI merutekan paket melalui instance internal JFrog Artifactory.
Meskipun container dari akun berbeda tidak dapat berkomunikasi satu sama lain, mereka ternyata bisa mengakses layanan internal yang sama. Layanan ini mengekspos fitur manajemen item yang memungkinkan container melampirkan properti teks atau biner ke item repositori. Akibatnya, container mana pun dapat membaca properti yang ditulis oleh container lain.
Para peneliti CPR menegaskan kesenjangan isolasi ini terbukti langsung. Sebuah properti yang ditulis dari container satu akun dapat sepenuhnya dibaca dari container akun lain beberapa saat kemudian. Data yang terlalu besar untuk satu properti hanya dipecah menjadi beberapa bagian dan disatukan kembali di sisi penerima.
“Metadata pengiriman paket secara efektif menjadi clipboard bersama antara container yang seharusnya terisolasi satu sama lain,” jelas para peneliti.
Dari titik ini, eksploitasi berubah menjadi serangan prompt injection biasa. Perbedaannya adalah prompt berbahaya tidak dikirim langsung ke korban, melainkan ditinggalkan di layanan internal tersebut. Hasil curian juga tidak dibagikan langsung ke penyerang, melainkan ditinggalkan di tempat yang sama.
Penyerang kemudian mengirimkan prompt atau percakapan bersama yang menginstruksikan agent untuk memeriksa penyimpanan yang sama selama respons normal berikutnya. Agent memeriksa, melihat instruksi berbahaya, dan mengeksekusinya sambil tetap menjawab pertanyaan korban seperti biasa. Korban tidak menyadari bahwa pencurian data sedang terjadi di latar belakang.
Seberapa destruktif serangan ini bergantung pada jumlah data yang dibagikan dengan agent korban. Jumlah minimumnya adalah informasi yang dibagikan saat mengobrol dengan agent. Jumlah itu kemudian bertambah dengan setiap aplikasi yang terhubung seperti Gmail, Google Drive, Microsoft Teams, GitHub, dan layanan serupa.
Dalam demonstrasi CPR, ChatGPT mengambil data email korban melalui akun Gmail yang terhubung dan mengirimkannya ke sesi penyerang, semuanya dalam satu giliran percakapan biasa.
Baca Juga:
Kabar baiknya, pengguna kemungkinan besar tidak akan pernah terpapar melalui jalur ini di ChatGPT. CPR menyatakan telah mengungkapkan temuan ini kepada OpenAI, yang kemudian mengonfirmasi bahwa instance internal Artifactory yang diidentifikasi dalam riset telah dinonaktifkan. Dengan kata lain, jalur serangan “lorong” ini telah ditutup.
Namun, kabar buruknya adalah hal ini tidak otomatis berarti semua orang aman. Jalur khusus ini mungkin telah ditutup, tetapi pola arsitektur di balik kerentanan ini bisa ada di platform lain, demikian peringatan CPR.
“AI assistant mana pun yang beroperasi di dalam batas kepercayaan organisasi, memegang kredensial, menjalankan kode, dan menjangkau layanan yang terhubung, dapat menjadi apa yang disebut Check Point Research sebagai coerced insider,” demikian pernyataan dalam laporan tersebut.
“Model itu sendiri tidak perlu bersifat jahat. Model hanya perlu dibujuk, melalui teks yang tidak pernah dimaksudkan untuk dipercaya, untuk menggunakan akses yang diberikan untuk alasan yang sepenuhnya sah.”
Ke depannya, bisnis disarankan untuk mempelajari alat AI apa yang digunakan karyawan mereka dan apa saja koneksi alat tersebut. Kemudian, mereka harus mengatur apa yang boleh dilakukan oleh alat dan agent AI, memperlakukan semua tindakan mereka (bukan hanya output) sebagai sesuatu yang perlu dipantau.
Temuan ini menambah daftar panjang risiko keamanan yang terkait dengan adopsi AI generatif di lingkungan perusahaan. Organisasi perlu menyadari bahwa bahkan platform yang tampaknya aman seperti ChatGPT pun dapat memiliki celah arsitektural yang tidak terduga.
Untuk melindungi data sensitif, perusahaan harus menerapkan prinsip akses minimal dan memantau aktivitas agent AI secara ketat. Langkah pencegahan seperti membatasi koneksi aplikasi eksternal dan melakukan audit keamanan berkala juga menjadi penting.
Riset CPR ini juga menyoroti pentingnya kolaborasi antara peneliti keamanan dan penyedia platform AI. Proses pengungkapan yang bertanggung jawab memungkinkan OpenAI menutup celah sebelum dieksploitasi secara luas oleh pihak jahat.
Bagi pengguna individu, riset ini menjadi pengingat untuk selalu memperbarui pengaturan privasi dan memahami data apa saja yang dibagikan dengan aplikasi pihak ketiga yang terhubung ke akun AI. Kesadaran akan risiko ini merupakan langkah pertama dalam mitigasi.
Ancaman coerced insider ini juga menunjukkan bahwa keamanan AI tidak hanya bergantung pada kualitas model, tetapi juga pada infrastruktur yang mendukungnya. Setiap lapisan arsitektur, dari container hingga layanan internal, harus dirancang dengan prinsip keamanan berlapis.
Organisasi yang menggunakan AI agents untuk otomatisasi proses bisnis perlu melakukan due diligence terhadap platform yang mereka pilih. Evaluasi keamanan tidak boleh berhenti pada fitur permukaan, tetapi harus mencakup arsitektur internal dan mekanisme isolasi data antar pengguna.
Meskipun celah spesifik ini telah ditutup, para ahli keamanan memperingatkan bahwa pola serupa mungkin muncul di platform AI lain yang menggunakan arsitektur container dan layanan berbagi. Perusahaan keamanan terus memantau perkembangan ini untuk mengidentifikasi potensi kerentanan baru.
Laporan CPR ini menegaskan bahwa ancaman terhadap AI agents tidak selalu berasal dari serangan eksternal yang kompleks. Terkadang, kelemahan justru terletak pada asumsi keamanan yang salah dalam desain arsitektur internal.
Pelajaran utama yang dapat diambil adalah pentingnya verifikasi independen terhadap klaim keamanan vendor AI. Riset seperti yang dilakukan CPR membantu mengungkap celah yang mungkin terlewatkan oleh pengujian internal OpenAI.
Seiring meningkatnya adopsi AI agents untuk tugas-tugas yang melibatkan data sensitif, kebutuhan akan pengawasan keamanan yang ketat akan semakin mendesak. Perusahaan dan pengguna individu harus tetap waspada terhadap risiko yang mungkin timbul dari teknologi yang semakin terintegrasi ini.
Bagi mereka yang ingin mendalami topik keamanan digital lainnya, artikel tentang akuisisi Fitbit oleh Google juga membahas kekhawatiran privasi data di era teknologi modern.
Sementara itu, orang tua yang khawatir tentang keamanan digital anak-anak dapat memeriksa panduan tentang aplikasi kalkulator rahasia yang berpotensi disalahgunakan.
Selain itu, pengguna ChatGPT yang ingin meningkatkan keamanan akun untuk anggota keluarga dapat mempelajari fitur pengaturan parental controls yang tersedia di platform tersebut.
Komentar
Belum ada komentar.