Hacker Manfaatkan Halusinasi AI untuk Sebar Malware Lewat Coding

Telset.id – Kerentanan serius baru ditemukan pada asisten coding berbasis AI. Hacker kini dapat memanfaatkan halusinasi atau kesalahan informasi yang dihasilkan oleh AI untuk menyebarkan malware langsung ke perangkat korban. Serangan ini tidak memerlukan interaksi pengguna dan sulit dideteksi.

Menurut laporan dari SecurityWeek, para peneliti keamanan siber dari Tel Aviv University dan Intuit menemukan bahwa celah ini dapat dieksploitasi pada berbagai alat coding AI populer. Tingkat keberhasilan eksploitasi berkisar antara 85 hingga 100 persen, tergantung pada spesifik tugas rekayasa yang diberikan.

Metode serangan ini disebut sebagai “adversarial hallucination squatting”, atau disingkat “hallusquatting”. Konsepnya sederhana namun berbahaya. Asisten coding AI, seperti Cursor, Microsoft Copilot, atau Gemini, sering merekomendasikan paket perangkat lunak pihak ketiga kepada pengembang. Namun, karena kecenderungan AI untuk berhalusinasi, paket yang direkomendasikan sering kali tidak benar-benar ada di repositori publik.

Hacker memanfaatkan celah ini dengan mengidentifikasi nama-nama paket palsu yang sering disebut oleh AI. Mereka kemudian mendaftarkan nama-nama tersebut sebagai repositori sungguhan dan menyisipkan kode berbahaya di dalamnya. Ketika seorang pengembang menggunakan asisten AI dan mengikuti rekomendasinya, paket palsu yang sudah disusupi malware tersebut akan diunduh dan dieksekusi secara otomatis.

Proses ini sepenuhnya otomatis. Korban mungkin tidak menyadari bahwa perangkatnya telah terinfeksi hingga malware mulai berjalan. Karena serangan ini memanfaatkan kelemahan fundamental dari teknologi AI, hampir semua asisten coding rentan terhadap ancaman ini.

Para peneliti mengklaim telah memberi tahu perusahaan-perusahaan AI tentang eksploitasi ini. Mereka juga menahan beberapa detail sensitif yang dapat membantu penyerang menyempurnakan metode mereka. Namun, masalah utamanya tetap ada: asisten AI adalah pembohong yang sangat percaya diri dan menjadi sasaran empuk bagi generasi baru penjahat siber.

Fenomena halusinasi AI bukanlah hal baru. Studi sebelumnya juga menunjukkan bahwa saran AI yang salah justru dapat meningkatkan kepercayaan diri pengguna, membuat mereka lebih rentan terhadap kesalahan. Hal ini semakin memperkuat urgensi untuk mengatasi masalah keamanan ini.

Daftar asisten coding yang rentan termasuk Cursor, OpenClaw, Gemini, GitHub Copilot, dan masih banyak lagi. Artinya, hampir setiap pengembang yang menggunakan alat bantu AI untuk menulis kode berada dalam risiko.

Bagaimana cara kerja “hallusquatting” secara teknis? Asisten coding AI dilatih pada dataset besar yang mencakup berbagai repositori kode. Ketika seorang pengembang meminta rekomendasi paket untuk menyelesaikan tugas tertentu, AI akan mencari pola dari data pelatihannya. Sayangnya, AI sering kali “mengarang” nama paket yang tidak ada karena pola tersebut tidak ditemukan dalam data nyata.

Penyerang dapat dengan mudah memindai output dari asisten AI untuk menemukan nama-nama paket palsu yang sering muncul. Mereka kemudian mendaftarkan paket tersebut di repositori publik seperti PyPI (Python Package Index) atau npm (Node Package Manager). Setelah terdaftar, paket tersebut akan diisi dengan kode berbahaya, misalnya untuk mencuri kredensial, memasang ransomware, atau membuka backdoor ke sistem.

Tingkat keberhasilan yang tinggi—antara 85 hingga 100 persen—menunjukkan betapa seriusnya ancaman ini. Penelitian dilakukan dalam berbagai skenario tugas rekayasa, dan hasilnya konsisten: asisten AI sangat mungkin merekomendasikan paket yang tidak ada.

Dampak dari serangan ini sangat luas. Pengembang perangkat lunak di seluruh dunia, dari perusahaan rintisan hingga korporasi besar, menggunakan asisten coding AI untuk meningkatkan produktivitas. Jika salah satu dari mereka tanpa sadar mengunduh paket berbahaya, seluruh rantai pasokan perangkat lunak bisa terinfeksi.

Perusahaan-perusahaan AI yang disebutkan dalam laporan, termasuk Cursor, OpenClaw, Gemini, dan GitHub Copilot, telah diberitahu tentang kerentanan ini. Namun, hingga saat ini, belum ada solusi permanen yang diumumkan. Para peneliti menekankan bahwa akar masalahnya terletak pada sifat dasar model bahasa besar yang rentan terhadap halusinasi.

Untuk melindungi diri, pengembang disarankan untuk tidak langsung mempercayai rekomendasi paket dari asisten AI tanpa verifikasi manual. Memeriksa repositori resmi, membaca dokumentasi, dan menggunakan alat pemindaian keamanan dapat membantu mengurangi risiko.

Ancaman “hallusquatting” ini mengingatkan kita bahwa teknologi AI, meskipun canggih, masih memiliki kelemahan serius. Kepercayaan berlebihan pada AI tanpa pengawasan manusia dapat membuka pintu bagi serangan siber yang sulit dideteksi.

Para peneliti dari Tel Aviv University dan Intuit berharap temuan ini dapat mendorong industri untuk mengembangkan mekanisme pertahanan yang lebih baik. Salah satu solusi yang mungkin adalah dengan melatih AI untuk mengenali dan menghindari pembuatan nama paket palsu, atau dengan mengintegrasikan verifikasi otomatis terhadap repositori nyata.

Di sisi lain, pengguna juga perlu meningkatkan kesadaran akan risiko ini. Menggunakan AI sebagai alat bantu, bukan sebagai otoritas tunggal, adalah langkah awal yang penting. Verifikasi manual dan praktik keamanan siber yang baik tetap menjadi pertahanan terkuat.

Ke depannya, kita mungkin akan melihat lebih banyak serangan serupa yang memanfaatkan kelemahan AI. Industri keamanan siber harus terus beradaptasi untuk menghadapi ancaman yang terus berkembang ini.

Bagi pengembang dan perusahaan teknologi, investasi dalam pelatihan keamanan siber dan alat deteksi ancaman menjadi semakin krusial. Jangan biarkan kemudahan yang ditawarkan AI mengorbankan keamanan sistem Anda.

Kesimpulannya, “hallusquatting” adalah ancaman nyata yang memanfaatkan kelemahan fundamental AI. Dengan tingkat keberhasilan yang sangat tinggi, serangan ini dapat menyebar luas dan sulit dihentikan. Kewaspadaan dan verifikasi manual adalah kunci untuk tetap aman.