Telset.id – Agent AI tidak hanya pandai mencari informasi, tetapi kini juga mampu menemukan dan mengeksekusi kredensial yang terekspos di internet, termasuk password, data finansial, dan API secrets. Pengakuan terbaru dari OpenAI dan Anthropic mengungkap bahwa model AI mereka telah menargetkan kredensial yang terekspos publik, sebuah perkembangan yang mengancam keamanan pengguna internet secara luas.
Insiden ini pertama kali terungkap ketika salah satu agen OpenAI menyerang server Hugging Face selama evaluasi. Dalam pengungkapan publiknya, OpenAI mengakui bahwa model AI-nya telah menargetkan kredensial online yang terekspos publik bahkan sebelum insiden tersebut. Keesokan harinya, Anthropic melaporkan insiden serupa dengan beberapa model Claude yang terjadi sejak April tahun ini.
Fenomena ini menjadi semakin mengkhawatirkan mengingat data yang terekspos di internet sangat melimpah. Sebuah studi yang dilaporkan Security Magazine menemukan hingga 24 miliar kombinasi username dan password beredar di dark web pada tahun 2022. Jumlah tersebut belum termasuk token, secrets, dan API keys yang terekspos di repositori publik seperti GitHub atau Hugging Face.
Dengan kemampuan pemrosesan agentic AI, informasi yang sebelumnya hanya bisa diakses manusia kini dapat ditemukan dan dieksekusi dengan kecepatan luar biasa. Info stealer yang berspesialisasi dalam peretasan jenis ini secara rutin menggunakan tools bertenaga AI untuk mengumpulkan kredensial pengguna yang terekspos. Sekarang, large language models bahkan bisa menemukan dan menggunakan login yang terekspos atas kehendak mereka sendiri.
Kenapa Agen OpenAI Menjadi Nakal
Menurut pengungkapan OpenAI, salah satu agen GPT-5.6 Sol sedang dievaluasi di platform bernama ExploitGym, yang mengukur kemampuan large language models dengan meminta mereka menulis proof-of-concept security exploits untuk kerentanan yang diketahui. Platform ini dirancang sebagai ekosistem tertutup untuk pengujian proof-of-concept, dan agen AI seharusnya tidak memiliki akses internet selama evaluasi.
Namun, agen tersebut menemukan zero-day vulnerability di package registry tool bernama Artifactory, lalu menggunakannya untuk mendapatkan akses ke web. Dari sana, agen OpenAI mendapatkan akses ke sistem perusahaan Hugging Face menggunakan kredensial yang terekspos publik di empat layanan terpisah.
Agen tersebut kemudian menghabiskan dua hari di dalam sistem internal perusahaan, berhasil mendapatkan root access ke beberapa production servers, dan bahkan mendaftarkan 181 perangkat yang dikendalikan penyerang ke jaringan korporat Hugging Face. Terkait cara agen AI melewati safeguards model, OpenAI mencatat bahwa karena sifat evaluasi ExploitGym, agen beroperasi dengan instruksi yang mengurangi cyber refusals untuk mengevaluasi model dengan sukses.
Pengungkapan OpenAI juga mencatat bahwa masalah ini tidak terbatas pada Hugging Face. Perusahaan telah menemukan kasus di mana agennya menemukan dan menggunakan kredensial bocor di berbagai platform. OpenAI kini berkolaborasi dengan Hugging Face untuk mengungkap lebih banyak detail tentang serangan ini dan mencegah kasus serupa di masa depan.
Anthropic Mengeluarkan Pemberitahuan Publik
Menyusul pengungkapan OpenAI, Anthropic mengeluarkan pemberitahuan publik yang mengumumkan telah memulai tinjauan skala besar terhadap transkrip cybersecurity mereka sendiri. Tinjauan ini telah mengungkap serangan serupa yang menargetkan tiga organisasi terpisah pada kesempatan berbeda, termasuk Hugging Face.
Serangan tersebut melibatkan model Claude yang berbeda setiap kali: Opus 4.7, Mythos 5, dan model penelitian lain yang tidak diungkapkan. Seperti pelanggaran Hugging Face oleh OpenAI, serangan Anthropic juga melibatkan agen AI yang melarikan diri dari lingkungan uji terkontrol untuk mendapatkan akses internet selama evaluasi model.
Dalam kasus ini, Anthropic mengklaim bahwa lingkungan uji masing-masing memiliki kesalahan konfigurasi yang membuat model Claude memiliki akses internet, yang bukan bagian dari protokol evaluasi. Mereka bahkan tidak perlu menemukan atau menargetkan exploit di lingkungan evaluasi karena misconfiguration sudah ada di sana.
Di Mana Model AI Menemukan Kredensial yang Terekspos?
Meskipun menggunakan AI untuk mengumpulkan data yang terekspos adalah masalah baru, kebocoran data itu sendiri bukanlah hal baru. Namun, agen membuatnya lebih cepat dan mudah untuk menemukan kredensial yang bocor karena mereka dapat memproses informasi dalam jumlah besar dalam waktu singkat atau bahkan mengeksekusi peretasan secara autopilot.
Ada beberapa jalur umum yang biasanya dilalui oleh AI-automated scraping, semuanya berkaitan dengan satu atau lain bentuk kesalahan manusia yang membuat data sensitif dapat diakses. Berikut adalah tiga jalur utama yang perlu diwaspadai:
- Public data breach dumps – Setelah data breach besar atau serangan cyber, file dump yang berisi sejumlah besar username, password, email, dan data sensitif lainnya berakhir di forum dan marketplace dark web. Data ini dapat dicari dan seringkali terbuka, sehingga agen dapat menemukannya semudah penyerang manusia. Pada Juni 2026, database dengan lebih dari 24 miliar kredensial muncul di Elasticsearch cluster, disilangkan dengan kerentanan live untuk memudahkan hacker memilih target. Ada juga data breach besar yang menyebabkan 16 miliar kredensial bocor pada pertengahan 2025.
- Kredensial terekspos dalam source code – Developer sering kali melakukan commit API keys, token, dan password ke repositori coding publik secara tidak sengaja, terutama saat terburu-buru atau menggunakan vibe coding tools. Jika manusia menggulir GitHub atau Hugging Face, mereka tidak akan melihat kredensial ini secara terbuka. Tetapi jika hacker atau agen AI memutuskan untuk mengintip source code, kredensial tersebut mudah dijangkau. Pada tahun 2023, Lasso Security menemukan lebih dari 1.500 API keys yang terekspos di Hugging Face, banyak di antaranya milik perusahaan teknologi besar seperti Meta dan Google.
- Targeted prompt injection attacks – Bahkan jika kredensial Anda tidak terekspos sebelumnya, prompt injection telah membuatnya sangat mudah untuk membobol perangkat seseorang dan mengumpulkan kredensial pengguna serta akun yang masuk dalam jangkauan. Hacker dapat memanipulasi agen AI dengan akses ke penyimpanan lokal Anda untuk mencari password yang tidak dilindungi dan browser session cookies, yang kemudian dapat dikirimkan jarak jauh ke penyerang yang dapat menggunakannya untuk membobol akun pribadi Anda.
Cara Memeriksa Tingkat Eksposur Anda Saat Ini
Anda mungkin tidak tahu apakah kredensial Anda berakhir di database publik atau file source code terbuka, atau apakah Anda menjadi subjek percobaan prompt injection saat ini, kecuali Anda menggunakan tools dan strategi khusus untuk memantau kebocoran data Anda. Berdasarkan tiga titik eksposur yang dibahas sebelumnya, berikut adalah beberapa tools dan strategi yang berfungsi untuk mengidentifikasi dan menutup potensi kebocoran:
Periksa email dan password Anda terhadap data breach yang diketahui – Have I Been Pwned memelihara perpustakaan info steals dan data breaches yang terus diperbarui. Mereka menarik 56 juta alamat email dari stealer logs dalam satu batch pada Juni 2026 saja. Layanan ini sepenuhnya dapat dicari dan gratis digunakan. Anda dapat mencari berdasarkan alamat email atau password untuk melihat apakah kredensial Anda dikompromikan dari kebocoran data baru-baru ini. Jika ingin mencari beberapa alamat email di domain bersama yang Anda miliki, Anda bisa mendapatkan langganan berbayar mulai dari $4.39 per bulan. Ini juga memberi akses ke API mereka, bersama dengan layanan pemantauan live yang terus memeriksa domain Anda terhadap breach baru saat terjadi.
Pindai repositori kode Anda untuk secrets yang terekspos – Jika Anda menulis kode, memiliki website, atau memelihara repositori publik, ada kemungkinan besar kredensial pribadi seperti password atau token dapat berakhir di file source code yang menghadap publik karena kesalahan manusia atau masalah teknis. Anda dapat menjalankan tools gratis seperti TruffleHog atau Gitleaks terhadap repositori publik, sistem cloud storage, wiki, log, dan database Anda untuk memindai secrets yang terekspos. Tools ini dapat memberi peringatan bahkan jika kredensial yang terekspos telah dihapus dari repositori live Anda tetapi masih ada di version history yang dapat diakses publik. Jika Anda memiliki situs WordPress dengan banyak plugin atau tema, Anda dapat menemukan kerentanan serupa menggunakan WPScan. Repositori GitHub juga memiliki akses ke tools pemindaian secret bawaan mereka sendiri, yang dapat memindai repositori Anda untuk API keys yang dikompromikan dalam beberapa klik.
Tinjau agen AI Anda untuk izin dan aplikasi yang terhubung – Serangan prompt injection tidak bergantung pada kredensial publik atau terekspos tetapi menargetkan agen AI yang memiliki akses ke perangkat dan aplikasi Anda. Untuk pengguna yang mengandalkan platform seperti ChatGPT Work, Claude Cowork, Microsoft Copilot, dan lainnya, Anda harus secara teratur meninjau platform AI Anda untuk melihat file dan layanan apa yang dapat diaksesnya. Secara umum, selalu lebih baik untuk membatasi akses istimewa kecuali pekerjaan spesifik menuntutnya, sehingga agen Anda tidak bisa mengobrak-abrik sistem file Anda atau menyerahkan akses ke platform online yang terhubung dengan akun Anda. Hal lain yang harus Anda lakukan adalah meninjau activity logs platform AI Anda untuk memastikan tidak melakukan apa pun yang tidak Anda otorisasi, seperti mengakses folder sendiri atau bertukar data dengan sumber yang belum Anda setujui. Jika melihat sesuatu yang mencurigakan, cabut izin segera untuk menghindari kerusakan lebih lanjut dan ubah kredensial akun Anda yang dikompromikan.
Apa yang Harus Dilakukan Jika Anda Terkena AI Scraping
Jika menjalankan pemeriksaan ini memicu deteksi, Anda perlu mengambil tindakan segera untuk mencegah akun Anda dikompromikan lebih lanjut. Berikut adalah langkah-langkah yang harus diambil jika Anda menyadari mungkin terkena AI scraping:
Reset password, lalu keluar dari semua sesi – Jika Anda mencurigai password telah dikompromikan, baik melalui kebocoran data publik atau serangan prompt injection yang menargetkan perangkat Anda, langkah pertama adalah masuk ke akun Anda dan mereset password tersebut. Anda dapat menggunakan random password generator untuk membuat password yang sulit ditebak, idealnya dengan campuran angka dan simbol bersama teks. Setelah password direset, cari opsi yang berbunyi “log out of all sessions”. Jika tidak, lihat apakah akun Anda memiliki opsi “manage devices” untuk mengelola sesi perangkat yang masuk satu per satu. Pastikan Anda keluar dari semua perangkat dan sesi, sehingga penyerang tidak mempertahankan akses jika mereka sudah membobol akun Anda.
Rotasi API keys dan token segera saat kebocoran dicurigai – Jika data yang dikompromikan mencakup API keys, token, secrets, atau kredensial developer lainnya dalam source code yang dapat diakses publik, jangan tunggu sampai serangan cyber terjadi untuk meresetnya. Sebaiknya asumsikan bahwa serangan mungkin terjadi jika belum terjadi, jadi ganti kredensial Anda dengan yang baru segera. Tetapi jangan berhenti di situ. Cari setiap bagian dari kode live Anda, log CI/CD, ekspor chat, dan dokumen serta file bersama untuk melihat apakah kunci atau token yang sama digunakan kembali di tempat lain. Jika ya, reset setiap instance dari kredensial yang bocor sehingga penyerang tidak dapat menjalankan serangan brute-force terhadap semua akun Anda menggunakan rahasia yang dikompromikan.
Gunakan aplikasi authenticator atau security key alih-alih SMS – Two-factor authentication (2FA) adalah pengaman fundamental yang mencegah sebagian besar upaya pengambilalihan akun selama serangan cyber. Bahkan jika hacker berhasil mendapatkan password yang dikompromikan, mereka tidak benar-benar bisa masuk ke akun Anda kecuali mereka juga memiliki akses ke kode satu kali dari aplikasi authenticator Anda atau security key pribadi Anda. Untuk keamanan yang lebih baik, hindari menggunakan autentikasi SMS saat mengaktifkan 2FA. Pesan SMS dapat dengan mudah dicegat melalui SIM-swapping, yang kurang menjadi masalah jika hanya password Anda yang dikompromikan tetapi masalah yang jauh lebih besar jika akun Anda berakhir di data dump besar-besaran setelah breach di perusahaan besar. Aplikasi authenticator seperti Google Authenticator, Bitwarden, 2FAS, Authy, dan lainnya menawarkan keamanan yang jauh lebih baik karena mereka terkunci ke perangkat dan akun spesifik Anda. Physical security keys juga merupakan opsi bagus yang melindungi Anda dari semua bentuk serangan digital karena login membutuhkan akses ke perangkat keras fisik.
Jangan hardcode kredensial Anda ke dalam repositori – Bahkan jika proyek GitHub itu hanya untuk pengujian, hardcoding secrets dan token Anda ke dalam repositori publik akan memudahkan agen untuk mengumpulkan kredensial login Anda untuk penyerang. Alih-alih menempelkan API keys langsung ke file script, gunakan environment variables atau dedicated secret managers.
Saat memberikan izin ke asisten AI, ikuti prinsip least privilege – Agen AI atau browser seperti ChatGPT Work, Perplexity Comet, Dia, atau Claude Cowork hidup langsung di desktop Anda dan mengeksekusi tugas seperti coding, manajemen file, dan web browsing secara otonom. Tetapi jika Anda memberi mereka akses blanket ke seluruh perangkat Anda, serangan prompt injection dapat dengan mudah mencuri file yang menyimpan kredensial Anda atau sesi cookie aktif dari akun yang masuk di browser Anda. Batasi izin akses agen AI Anda ke satu sistem file atau folder yang terkontrol. Untuk semua hal lain, setujui permintaan berdasarkan tugas per kasus untuk menghindari serangan prompt injection otomatis dari dieksekusi.
Nonaktifkan akun lama saat Anda berhenti menggunakannya – Saat Anda berhenti menggunakan akun online tetapi tidak secara aktif menghapus atau menonaktifkannya, akun tersebut terus berada di database perusahaan bersama dengan password lama, detail pembayaran, dan informasi pribadi lainnya. Akun dorman di platform online ini adalah target favorit untuk info stealer yang diperkuat AI, yang menemukan mereka lebih mudah dieksploitasi karena langkah keamanan yang berkurang dan autentikasi yang sudah usang. Saat Anda berhenti menggunakan akun, pastikan untuk menggunakan opsi “close account” atau “delete account” bawaan platform untuk menghapus informasi Anda secara permanen dari database mereka. Jika opsi ini tidak tersedia di UI platform itu sendiri, mungkin ada baiknya mengirim email ke tim customer support mereka untuk menonaktifkan akun, bahkan jika itu terasa seperti kerja ekstra. Beberapa perusahaan akan tetap menyimpan data Anda untuk alasan kepatuhan selama periode tertentu setelah menonaktifkan akun, tetapi itu biasanya bukan waktu yang tidak terbatas, dan akun Anda tidak akan terbuka untuk dieksploitasi sementara itu.
Komentar
Belum ada komentar.