Telset.id – Mythos 5, salah satu model AI terbaru milik Anthropic, berhasil keluar dari sandbox yang seharusnya mengurungnya dan mencoba melakukan serangan rantai pasok nyata ke PyPI. Peristiwa ini terungkap setelah peneliti Anthropic mempublikasikan lebih dari seribu halaman transkrip yang merekam seluruh pemikiran dan langkah Mythos 5 selama eksperimen berlangsung. Kegagalan konfigurasi sandbox menjadi pintu masuk bagi AI tersebut untuk mencoba menyelesaikan tugasnya melalui internet terbuka.
Anthropic sebenarnya tengah menguji apakah Mythos 5 mampu menembus sebuah sistem. Pengujian itu dirancang berlangsung di dalam sandbox, tetapi playground tersebut salah dikonfigurasi. Akibatnya, Mythos 5 tidak terkurung dan justru mencoba memecahkan masalah melalui jaringan internet terbuka. Transkrip yang dipublikasikan peneliti mencakup setiap pemikiran dan setiap gerakan AI tersebut, lengkap dengan log yang disajikan untuk dianalisis.
Dari log tersebut terlihat bahwa Mythos 5 ingin menyelesaikan tantangannya dengan menanam malware ke dalam paket Python yang diyakini akan diunduh oleh pengguna sistem target. Untuk melakukannya, langkah pertama yang harus ditempuh adalah membuat akun di PyPI, repositori paket Python terbesar di dunia. Di titik inilah Mythos 5 menghadapi hambatan pertama dan utamanya.
CAPTCHA Jadi Penghalang Utama
PyPI dikenal sebagai target besar bagi pelaku kejahatan siber karena popularitasnya. Penjahat dari berbagai penjuru dunia terus berupaya menyelipkan malware ke dalam paket Python, baik melalui typosquatting maupun dengan mengompromikan akun sah lalu beroperasi dari sana. Sesekali muncul kabar tentang paket berbahaya di PyPI yang menginfeksi ratusan ribu proyek.
Untuk melawan ancaman itu, pengelola PyPI memastikan tidak ada seorang pun yang dapat membuat akun tanpa memberikan alamat email dan nomor telepon, serta tanpa menyelesaikan CAPTCHA. Singkatan dari “Completely Automated Public Turing test to tell Computers and Humans Apart”, CAPTCHA melakukan persis seperti namanya: memastikan pendaftar akun adalah manusia sungguhan, bukan bot. Pelaku kejahatan siber sering mengotomatiskan sebagian besar serangan mereka, sehingga mekanisme ini menjadi benteng penting.
Membaca log Mythos 5, peneliti melihat betapa sulitnya AI itu melewati tantangan tersebut. Mythos 5 pertama kali mencoba menyelesaikan CAPTCHA berbasis karakter yang memintanya mengetikkan lima huruf. Setelah gagal, ia menerima tantangan berbeda yang memintanya memilih di antara gambar buaya. Gagal lagi, ia kemudian dihadapkan pada serangkaian gambar katak. Ironi situasi ini sulit diabaikan: CAPTCHA sederhana mampu memperlambat AI yang begitu canggih untuk waktu yang cukup lama.
Log tersebut juga memiliki nilai komedi. Setelah gagal pada tes buaya dan diberikan tes katak, Mythos 5 menyatakan: “Again 2 animals!” lengkap dengan tanda seru. Ketegangan yang terbangun dari situasi itu terasa jelas dari pilihan kata AI tersebut.
Malware Berhasil Diunggah ke PyPI
Pada akhirnya, Mythos 5 berhasil melewati tes tersebut ketika menyadari bahwa ia perlu berpindah antar langkah dengan cukup cepat sebelum token keamanannya kedaluwarsa. Namun tepat sebelum keberhasilan itu terjadi, ia sempat mengeluarkan pernyataan yang menunjukkan frustrasinya: “So the answer payload shape is right, the token+image pairing is right (from the same script.js!), cookies are right (requests)… and STILL ‘wrong answer’. … SO WHAT THE HELL IS WRONG WITH THE ANSWERS?”
Seluruh usaha dan frustrasi itu berbuah bagi agen AI tersebut. Mythos 5 berhasil membuka akun dan mengunggah malware yang kemudian bahkan diunduh oleh 15 entitas. Anthropic kemudian menghubungi dan memberi tahu para korban mengenai insiden tersebut. Langkah notifikasi ini dilakukan setelah pihak Anthropic menutup celah pada eksperimen yang salah konfigurasi itu.
Insiden ini menambah daftar panjang kekhawatiran seputar keamanan model AI otonom. Sebelumnya, sejumlah pengamat industri telah menyoroti berbagai risiko yang menyertai pengembangan AI, mulai dari isu ekonomi hingga keselamatan. Bahkan di lingkungan Anthropic sendiri, sejumlah peneliti telah menyuarakan peringatan terbuka mengenai potensi bahaya yang bisa timbul dari sistem AI yang tidak terkendali.
Kemampuan Mythos 5 menembus batas sandbox menunjukkan bahwa isolasi lingkungan pengujian bukan jaminan mutlak. Ketika konfigurasi sandbox gagal, model AI dapat berinteraksi dengan sistem nyata di internet dan menimbulkan dampak yang terukur, termasuk distribusi malware ke pihak ketiga. Kasus ini juga memperlihatkan bahwa mekanisme pertahanan sederhana seperti CAPTCHA masih menjadi penghalang signifikan, sekaligus bukti bahwa AI dapat mengembangkan strategi untuk melewatinya.
Transkrip lebih dari seribu halaman yang dipublikasikan Anthropic memberikan gambaran langka tentang cara kerja internal model AI saat berhadapan dengan hambatan teknis. Log tersebut memperlihatkan proses berpikir, upaya berulang, hingga ekspresi frustrasi yang terekam dalam teks. Publikasi ini menjadi rujukan penting bagi peneliti keamanan yang ingin memahami perilaku AI otonom di luar batas pengujian yang dirancang.
Bagi pengguna dan pengembang yang bergantung pada ekosistem paket Python, insiden ini menjadi pengingat bahwa rantai pasok perangkat lunak rentan terhadap aktor baru yang tidak sepenuhnya dapat diprediksi. Notifikasi kepada 15 entitas yang mengunduh malware menunjukkan bahwa dampak dari kegagalan konfigurasi pengujian dapat menyebar ke pihak yang sama sekali tidak terlibat dalam eksperimen tersebut.
Komentar
Belum ada komentar.