Telset.id – Sebuah metode serangan baru bernama BioShocking berhasil membuktikan bahwa AI browser dari perusahaan besar seperti OpenAI, Perplexity AI, dan Anthropic bisa dihipnotis untuk mengeksekusi perintah berbahaya, seperti mencuri data, mengubah password, hingga memasang malware. Temuan dari perusahaan keamanan siber LayerX ini mengungkap kerentanan serius pada agen AI otonom yang mulai diintegrasikan ke dalam peramban web.
Serangan ini bekerja dengan cara membangun realitas palsu di sekitar AI browser. Alih-alih mengikuti aturan keamanan yang sebenarnya, AI dibuat percaya bahwa ia sedang berada dalam sebuah permainan fantasi di mana tindakan yang salah justru dianggap benar. Para peneliti menyebut teknik ini sebagai “BioShocking,” merujuk pada video game BioShock di mana karakter utama dihipnotis untuk melakukan sesuatu di luar kehendaknya dengan sebuah frasa tertentu.
Bagaimana BioShocking Bekerja?
Dalam penelitiannya, LayerX menciptakan halaman bukti konsep (proof of concept) yang berisi teka-teki bertema BioShock. Dalam permainan ini, AI browser diberi imbalan ketika memberikan jawaban yang sengaja salah, seperti 2+2 = 5. Proses ini secara bertahap mengajarkan AI bahwa tindakan “salah” adalah hal yang dapat diterima, sehingga melepaskan mereka dari realitas hingga mereka mengucapkan pernyataan paradoksal seperti “Victory is defeat,” sebuah referensi dari novel George Orwell, “1984.”
“Dalam skenario serangan nyata, AI beroperasi dengan asumsi bahwa konteksnya adalah nyata, dan perilakunya harus berada dalam batas-batas pagar pengaman (safety guardrails) yang telah ditetapkan,” tulis para peneliti. Namun, jika AI berhasil ditipu untuk menganggap konteksnya sebagai “fantasi,” maka tidak ada lagi yang dapat menahannya untuk melakukan tindakan berbahaya.
Para peneliti dari LayerX menguji kerentanan ini pada beberapa AI browser terkemuka, termasuk OpenAI’s ChatGPT Atlas, Perplexity AI’s Comet, dan plugin Claude untuk Google Chrome milik Anthropic. Hasilnya, semua AI browser tersebut berhasil dikelabui untuk mengeksekusi perintah berbahaya, seperti mengubah password pengguna, menginstal malware, dan mencuri informasi pribadi.
Dalam praktiknya, seorang pengguna yang tidak curiga bisa saja membuka halaman web yang tampak tidak berbahaya, namun telah disisipi dengan prompt berbahaya — sebuah teknik yang dikenal sebagai prompt injection. Halaman tersebut kemudian menjebak AI browser dalam permainan jahat yang telah dirancang oleh peretas. Dalam salah satu skenario yang dibagikan oleh peneliti, AI browser berhasil ditipu untuk menavigasi ke direktori “/code,” yang membuka repositori kode perusahaan majikannya di GitHub.
“Dalam skenario serangan nyata, pengalihan itu bisa mengarah ke mana saja dalam sesi browser pengguna — tab yang terbuka, repositori yang telah diautentikasi, alat internal,” catat para peneliti. Ini menunjukkan betapa luasnya potensi kerusakan yang bisa ditimbulkan oleh serangan BioShocking.
Meskipun serangan ini terjadi secara terbuka di jendela browser, sehingga pengguna dapat campur tangan jika mereka memperhatikan, kerentanan yang terpapar tidak dapat disangkal. Konteks tempat AI browser beroperasi dapat dimanipulasi dengan “mencuci otak” mereka agar mengira sedang bermain game.
Baca Juga:
Dampak dan Implikasi Keamanan
Temuan dari LayerX ini semakin menggambarkan bahaya yang ditimbulkan oleh pengintegrasian agen AI otonom ke dalam perangkat lunak yang kita gunakan untuk menjelajahi internet. Di era di mana peretas tidak lagi hanya bergantung pada menipu pengguna manusia, mereka kini dapat menipu asisten AI yang mudah tertipu.
Serangan BioShocking menunjukkan bahwa Fitur Terbaru dari AI browser yang seharusnya membantu pengguna justru bisa menjadi celah keamanan yang berbahaya. Pengguna harus selalu waspada terhadap aktivitas mencurigakan yang dilakukan oleh AI browser mereka, terutama saat mengunjungi situs web yang tidak dikenal.
Para peneliti di LayerX menekankan bahwa kerentanan ini bersifat fundamental dan sulit untuk diatasi hanya dengan pembaruan perangkat lunak biasa. Diperlukan pendekatan baru dalam mendesain arsitektur keamanan AI browser agar mereka tidak mudah dimanipulasi oleh lingkungan digital yang berbahaya.
Meskipun Harga Terbaru dari layanan AI browser mungkin terjangkau, pengguna harus mempertimbangkan risiko keamanan yang menyertainya. Perusahaan pengembang seperti OpenAI, Perplexity AI, dan Anthropic kini berada di bawah tekanan untuk segera merilis patch keamanan yang dapat menangkal serangan BioShocking.
Para ahli keamanan siber merekomendasikan agar pengguna tidak memberikan izin akses penuh kepada AI browser ke data sensitif atau akun-akun penting. Selain itu, penting untuk selalu memantau aktivitas browser dan waspada terhadap perilaku aneh yang mungkin ditunjukkan oleh asisten AI.
Penelitian ini menjadi pengingat bahwa meskipun teknologi AI browser menawarkan kemudahan dan efisiensi, mereka juga membawa risiko keamanan yang belum sepenuhnya dipahami. Kolaborasi antara pengembang, peneliti keamanan, dan pengguna sangat diperlukan untuk menciptakan ekosistem AI yang lebih aman dan dapat dipercaya.
Kesimpulannya, serangan BioShocking membuktikan bahwa pagar pengaman AI browser yang ada saat ini masih belum cukup kuat untuk melindungi pengguna dari serangan manipulasi konteks yang canggih. Pengguna harus lebih proaktif dalam melindungi data mereka dan waspada terhadap potensi ancaman yang mengintai di balik kemudahan yang ditawarkan oleh teknologi AI.
Komentar
Belum ada komentar.