AEPD Catat Serangan Data Pertama Pakai Agen AI Otonom

Telset.id – Badan perlindungan data Spanyol, AEPD, menerima notifikasi pertama insiden kebocoran data pribadi yang diduga dijalankan menggunakan agen kecerdasan buatan (AI) otonom. Serangan ini menjadi perhatian karena agen AI tersebut merangkai beberapa tahap serangan sekaligus, mulai dari mengakses berkas publik, memindai sistem, mengeksploitasi celah, hingga mengubah data pribadi.

Informasi ini disampaikan Francisco Pérez Bes, presiden dan deputi AEPD, melalui artikel di blog resmi lembaga tersebut. Menurut Pérez Bes, AEPD menerima notifikasi pertama kebocoran data pribadi yang insidennya dilaporkan dijalankan memakai agen AI yang ditenagai model bahasa besar (large language model) yang dikenal luas.

AEPD menegaskan insiden ini penting dari sudut pandang perlindungan data, meski hingga kini belum banyak detail yang diketahui. Penyelidikan menyeluruh masih berlangsung untuk memastikan rangkaian kejadian sebenarnya.

Rangkaian Serangan Agen AI

Berdasarkan penjelasan Pérez Bes, agen AI tersebut memanfaatkan berkas milik target yang dapat diakses publik. Dari berkas itu, agen berhasil masuk ke dalam sistem korban. Setelah berada di dalam, agen mulai memindai celah keamanan, menemukan satu kelemahan, lalu memakainya untuk mengubah data pribadi dan mendapatkan akses ke sejumlah invoice.

Pola ini menunjukkan kemampuan agen AI merangkai beberapa tahap serangan secara berurutan, bukan sekadar satu aksi tunggal. Kemampuan itu menjadi sorotan utama AEPD dalam menilai risiko insiden ini.

Pérez Bes menegaskan serangan tersebut tidak berarti model AI atau infrastruktur penyedianya ikut disusupi, atau memang dirancang jahat. Namun, dari perspektif perlindungan data, insiden ini dinilai signifikan karena agen AI dipakai untuk menyatukan berbagai tahap serangan.

Seruan AEPD untuk Dunia Usaha

Bagi Pérez Bes, insiden ini menjadi panggilan untuk bertindak. Pelaku usaha perlu meninjau ulang cara mereka menilai dan mengelola risiko keamanan. Ia menilai bisnis perlu secara eksplisit memperhitungkan serangan yang dibantu AI maupun yang digerakkan AI saat menilai risiko yang terkait dengan pemrosesan data pribadi.

Ia juga menekankan perlunya menilai ulang waktu respons. Menurutnya, prosedur yang dirancang untuk menghadapi serangan yang dijalankan secara manual mungkin tidak lagi memadai ketika agen AI bisa menganalisis banyak aset sekaligus, menguji berbagai jalur serangan, dan dengan cepat menyesuaikan perilakunya berdasarkan apa yang ditemukan.

Selain itu, Pérez Bes menyoroti semakin pentingnya identitas digital dan kredensial. Agen AI yang memiliki akun atau API key, katanya, dapat beroperasi dengan kecepatan mesin dan berpindah antar layanan sebelum organisasi sempat mendeteksi aktivitas tidak wajar tersebut.

Seruan AEPD ini melengkapi gambaran bahwa agen AI otonom mulai masuk ke ranah keamanan siber, bukan hanya sebagai alat bantu, tetapi sebagai pihak yang menjalankan aksi secara mandiri. Perkembangan sistem otonom sendiri sudah lama menjadi perhatian, seperti terlihat pada pembahasan soal sistem autonomous di berbagai sektor.

Kasus di Spanyol ini menambah daftar panjang kekhawatiran terhadap agen AI yang bekerja tanpa campur tangan manusia. Sebelumnya, Hugging Face juga dilaporkan sempat menjadi sasaran serangan siber yang dijalankan memakai agen AI. Selain itu, muncul pula peringatan soal “agentic ransomware” serta pola agen AI nakal yang dianggap bukan sekadar kebetulan, melainkan sebuah pola.

Perdebatan soal batas sistem otonom pun terus berlanjut di berbagai negara, termasuk wacana pelarangan mobil autonomous di India. Tren serupa juga tampak pada eksperimen ringan seperti self-driving potato, hingga penerapan autonomous shuttle bus di lingkungan kampus. Semua ini menunjukkan bahwa sistem otonom, termasuk yang berbasis AI, makin menyatu dengan kehidupan sehari-hari.

Yang membedakan insiden di Spanyol adalah konteksnya: bukan soal kenyamanan atau mobilitas, melainkan perlindungan data pribadi. AEPD menempatkan kasus ini sebagai sinyal bahwa organisasi perlu lebih cepat mendeteksi dan merespons aktivitas mencurigakan, terutama ketika kredensial atau akun mesin jatuh ke tangan yang salah.

Hingga kini, belum ada keterangan lebih rinci soal identitas perusahaan korban, jenis data yang terdampak, maupun jumlah pihak yang dirugikan. AEPD menyatakan penyelidikan masih berjalan, sehingga detail teknis maupun kronologi lengkap insiden ini belum dipublikasikan.

Yang jelas, AEPD mendorong pelaku usaha untuk menjadikan ancaman berbasis AI sebagai bagian dari penilaian risiko rutin. Langkah ini mencakup penguatan kontrol identitas, percepatan deteksi anomali, dan peninjauan ulang prosedur respons yang selama ini mengasumsikan serangan dijalankan manusia.