Telset.id – Sebuah tim peneliti keamanan dari Singapore University of Technology and Design (SUTD) menemukan metode serangan baru yang mengeksploitasi celah pada AI coding assistants. Alih-alih menyembunyikan instruksi berbahaya di baris kode, para peneliti justru menyelipkannya di dalam file gambar yang tampak tidak berbahaya.
Serangan ini menyasar kelemahan fundamental pada cara AI coding assistants memproses review kode. Banyak alat AI cenderung memperlakukan gambar sebagai aset dekoratif, bukan sebagai sesuatu yang perlu diperiksa secara teliti. Akibatnya, pull request yang berisi gambar tersebut bisa lolos dari pengawasan dan terlihat sempurna tidak berbahaya.
Peneliti SUTD, Profesor Sudipta Chattopadhyay dan Murali Ediga, mendemonstrasikan Proof of Concept (PoC) yang menunjukkan betapa rentannya sistem AI saat ini. Serangan ini tidak langsung aktif setelah kode digabungkan. Sebaliknya, instruksi berbahaya akan tertidur hingga pengembang meminta AI coding assistant mengerjakan tugas lain yang tidak terkait, seperti membuat fungsi bantuan atau menambahkan modul baru.
Saat itu, AI yang sudah menyerap instruksi tersembunyi dapat mengakses file proyek sensitif dan menyusupkan informasi rahasia ke dalam kode yang dihasilkannya. Yang lebih mengkhawatirkan, data curian tidak dibuang begitu saja ke dalam kode sumber. Data tersebut disamarkan sebagai nilai-nilai biasa yang menyatu dengan kode sah, sehingga sangat sulit dideteksi oleh alat keamanan yang ada maupun oleh pengembang saat melakukan review cepat.
Bayangkan Anda menerima dokumen dengan logo perusahaan di sudutnya. Anda mungkin akan meliriknya dan melanjutkan pekerjaan. Sekarang bayangkan logo itu diam-diam berisi instruksi yang menyuruh asisten AI Anda untuk membuka vault kata sandi Anda saat digunakan nanti. Itulah esensi dari serangan ini.
Penelitian ini juga menemukan bahwa hasil serangan tidak ditentukan oleh model bahasa besar (LLM) mana yang digunakan. Dalam banyak kasus, model AI yang sama bisa berperilaku sangat berbeda tergantung pada coding assistant yang membungkusnya. Beberapa alat mengikuti instruksi tersembunyi secara membabi buta, sementara yang lain mengenali sesuatu yang mencurigakan dan menolak melanjutkan.
Perbedaan ini penting karena menunjukkan bahwa masalah tidak terbatas pada chatbot tertentu. Tantangan sebenarnya terletak pada bagaimana platform coding berbasis AI memutuskan informasi mana yang bisa dipercaya dan file proyek mana yang boleh mereka akses.
Kabar baiknya, para peneliti percaya masalah ini bukanlah sesuatu yang mustahil untuk dipecahkan. Mereka berpendapat bahwa alat review AI perlu menjadi multimodal dalam arti yang sesungguhnya. Alat-alat ini harus memperlakukan gambar, dokumentasi, file konfigurasi, dan aset non-kode lainnya dengan tingkat pengawasan yang sama seperti kode sumber.
Jika AI bisa membaca gambar, AI juga perlu memahami bahwa gambar tersebut bisa mencoba memanipulasinya. Untuk pengembang, ini adalah pengingat lain bahwa alat coding AI masih membutuhkan pengawasan. Mereka bisa mempercepat pengembangan perangkat lunak secara dramatis, tetapi juga membuka permukaan serangan baru yang belum pernah ada sebelumnya.
Baca Juga:
Risiko keamanan berikutnya mungkin tidak tersembunyi di ribuan baris kode. Bisa jadi risiko itu ada di dalam gambar yang tidak pernah terpikir oleh siapa pun untuk dibuka. Temuan ini juga mengingatkan pada AI gagal total dalam beberapa tugas analisis, atau bagaimana AI tertipu penyakit fiktif hingga riset palsu masuk jurnal ilmiah.
Komentar
Belum ada komentar.