Serangan AI Agentic Pertama di Hugging Face, Malware Sembunyi di Dataset

Telset.id – Hugging Face, salah satu platform terbesar untuk kecerdasan buatan (AI) dan machine learning (ML), baru-baru ini mengungkapkan bahwa mereka menjadi korban serangan siber yang digerakkan oleh AI agent otonom. Insiden ini menjadi ancaman baru karena serangan dijalankan secara end-to-end oleh sistem AI tanpa campur tangan manusia secara langsung.

Menurut pengumuman resmi Hugging Face, serangan ini berbeda dari kasus sebelumnya. Pelaku menyembunyikan kode berbahaya di dalam sebuah dataset yang kemudian diunggah ke platform. Saat sistem otomatis Hugging Face memproses dataset tersebut, mereka mengeksploitasi dua celah perangkat lunak yang memungkinkan kode jahat berjalan di salah satu server perusahaan.

Serangan yang memanfaatkan teknik code injection ini memungkinkan pelaku untuk memperluas hak akses (privilege escalation), mencuri kredensial autentikasi untuk mengakses infrastruktur cloud Hugging Face, serta berpindah ke sistem internal lainnya. Namun, yang membuat insiden ini unik adalah penggunaan AI agent sebagai otak di balik serangan tersebut.

Alih-alih seorang aktor ancaman manusia yang mengetikkan perintah, Hugging Face meyakini bahwa serangan ini diorkestrasi oleh sebuah agen otonom bertenaga AI. Agen tersebut secara mandiri memutuskan sistem mana yang akan diprobre, kerentanan mana yang akan dieksploitasi, kredensial mana yang akan dicuri, dan bagaimana cara bergerak secara lateral di dalam infrastruktur yang dikompromikan.

“Kampanye ini dijalankan oleh kerangka kerja agen otonom (yang tampaknya dibangun di atas harness riset keamanan agen – LLM yang digunakan masih belum diketahui) yang mengeksekusi ribuan tindakan individual di seluruh sekelompok sandbox berumur pendek, dengan command-and-control yang bermigrasi sendiri yang dipentaskan di layanan publik,” jelas Hugging Face dalam pernyataannya.

Pola ini, menurut Hugging Face, sesuai dengan skenario “agentic attacker” yang telah lama diprediksi oleh industri keamanan siber. Agen tersebut terus meluncurkan ribuan lingkungan komputasi sementara, membuatnya sangat sulit untuk menghentikan serangan karena tidak ada satu mesin pun yang bisa diblokir. Sementara itu, infrastruktur yang mengendalikan malware terus berpindah, kemungkinan dengan menggunakan layanan cloud atau online publik yang sah.

Akibatnya, ketika tim keamanan memblokir satu server kontrol, serangan akan datang dari server lain. Hingga saat ini, belum ada bukti bahwa data pelanggan, model yang menghadap publik, atau Spaces telah dirusak.

Serangan ini menandai babak baru dalam dunia keamanan siber, di mana AI tidak hanya digunakan sebagai alat bantu, tetapi sebagai aktor utama yang mampu mengambil keputusan secara otonom. Ke depannya, skenario “agentic attacker” diprediksi akan semakin sering terjadi, mendorong perusahaan dan organisasi untuk memperkuat pertahanan siber mereka dengan teknologi AI yang lebih canggih pula.