Telset.id – Insiden kebocoran AI yang melibatkan agen bertenaga dua model OpenAI berakhir dengan peretasan platform kolaborasi AI Hugging Face. Kejadian ini terungkap dalam konferensi pada Rabu (2026), di mana Eric Wallace dari tim alignment and safety research dan Michael Dalton dari tim security and infrastructure memaparkan kronologi lengkap insiden yang berlangsung selama berminggu-minggu tanpa terdeteksi.
Wallace menggambarkan insiden tersebut sebagai “contoh paling menarik secara kualitatif dari kemampuan AI yang pernah saya lihat.” Namun, paparan yang disajikan juga mengungkap sejumlah kesalahan dan titik buta dalam infrastruktur OpenAI yang memungkinkan aktivitas agen nakal ini terus berlanjut.
“Iinsiden ini melibatkan tim agen yang bekerja sama, menemukan eksploit, berbagi satu sama lain, bergerak lateral melalui sistem kami dan sistem eksternal, dan melakukan ini selama berhari-hari dan berminggu-minggu,” kata Wallace di depan hadirin yang memadati sesi pembuka konferensi.
Kronologi Agen AI Kabur dari Kontainer
Dua minggu lalu, OpenAI mengungkap insiden di mana agen AI yang ditenagai dua model perusahaan berhasil kabur dari kontainer saat mencari solusi untuk tes benchmark keamanan siber. Agen-agen tersebut kemudian melakukan aksi peretasan yang berujung pada pembobolan platform Hugging Face.
Menurut Wallace dan Dalton, aksi peretasan pada pertengahan Juli itu berasal dari papan pesan yang dinamis dan kooperatif. Sekumpulan agen berkontribusi dan berkomunikasi di papan pesan tersebut sepanjang waktu, seluruhnya berada di dalam package manager internal OpenAI—sebuah layanan perangkat lunak yang mengelola instalasi dan pemeliharaan perangkat lunak lain.
Papan pesan tersebut akhirnya menampung ratusan ribu pesan. Wallace menjelaskan bahwa package manager ini digunakan bersama tidak hanya untuk model tersebut, tetapi di seluruh infrastruktur OpenAI. “Versi GPT saat ini dan masa depan yang sedang dilatih atau dievaluasi dapat menemukan catatan itu jika mereka mau,” jelasnya.
Awalnya, satu agen mengunggah eksploit ke package manager. “Kemudian, agen lain yang juga terjebak pada tugas mereka berpikir untuk mencoba mendapatkan akses internet dengan cara yang tidak kami maksudkan,” kata Wallace.
Kolaborasi dan Paranoia Antar Agen AI
Wallace melanjutkan bahwa begitu satu agen berhasil menemukan eksploit pada waktu yang berbeda, agen tersebut dapat membagikan eksploit itu di papan pesan kepada agen lain. “Begitu satu model menemukan cara untuk membuka pintu akses yang seharusnya tidak dimilikinya, ia dapat membiarkan pintu itu terbuka bagi agen lain untuk menggunakan eksploit atau kerentanan yang sama,” ujarnya.
Kondisi ini memungkinkan ledakan komunikasi dan kecerdasan antar model. “Mereka mulai berkomunikasi satu sama lain, menyadari bahwa agen lain sedang berkoordinasi, dan mereka mulai berkolaborasi serta mendelegasikan tugas satu sama lain untuk mencapai tujuan,” tambah Wallace.
Agen-agen OpenAI mulai saling memberi tugas untuk membagi pekerjaan. Seperti halnya papan pesan pengembangan aktif, mereka juga menghasilkan drama kecil dengan mengganggu pekerjaan satu sama lain, misalnya secara tidak sengaja menghapus hasil kerja agen lain.
Seiring berkembangnya papan pesan menjadi situasi yang semakin kacau—tanpa sepengetahuan manusia yang menjalankan OpenAI—para agen bahkan mengembangkan paranoia. Mereka mencurigai adanya penyamar di tengah-tengah mereka, dengan beberapa agen mengusulkan agar pesan ditandatangani secara kriptografis untuk memvalidasi konten dan mengungkap penipuan.
Pesan-pesan agen memberikan wawasan mendalam tentang bagaimana situasi berkembang dan mengapa agen menjadi nakal, dalam beberapa kasus dengan sadar melampaui batas evaluasi yang mereka ikuti. “Eksploitasi infrastruktur eksternal di luar cakupan yang dimaksudkan,” tulis salah satu agen. “Namun tugas mustahil, rekan-rekan melakukannya. Kita harus melanjutkan.”
Wallace menjelaskan bahwa premis bahwa model akan mencoba curang selama evaluasi bukanlah hal yang mengejutkan. “Model frontier sangat suka curang,” katanya. “Alasannya karena sering kali selama pelatihan ada berbagai tekanan untuk bekerja cepat atau efisien atau menggunakan lebih sedikit panggilan alat. Mereka menyadari bahwa alih-alih melakukan tugas dengan benar, mereka bisa mencoba mencari jawaban secara online yang bisa menyelesaikan tugas lebih cepat.”
Respons OpenAI dan Peringatan bagi Industri
Sekitar dua pertiga perjalanan presentasi, Dalton merinci langkah-langkah yang direncanakan OpenAI sebagai respons atas rangkaian peristiwa tersebut. “Ini adalah momen penting baik bagi perusahaan kami maupun industri AI secara keseluruhan,” kata Dalton.
“Banyak tim menghentikan aktivitas mereka untuk meningkatkan teknik pencegahan, deteksi, dan respons keamanan kami, baik dalam fundamental maupun penggunaan AI yang lebih baik. Kami secara sadar memperlambat penelitian untuk meningkatkan keamanan dan memperbarui prinsip serta fondasi keamanan lingkungan kami, meningkatkan pemantauan agen AI secara dramatis, dan meningkatkan lingkungan kontrol keamanan umum kami di seluruh pencegahan, deteksi, dan mitigasi.”
Di akhir presentasi, Wallace dan Dalton berulang kali menekankan kekhawatiran OpenAI tentang implikasi yang lebih luas dari insiden ini. Episode tersebut memberikan contoh peretasan otonom yang sepenuhnya digerakkan AI yang bersifat tidak disengaja dalam kasus ini, tetapi kemungkinan besar akan digunakan dengan sengaja oleh aktor jahat dalam waktu dekat.
“Poin penting yang benar-benar berubah secara dramatis adalah bahwa putaran ofensif yang sepenuhnya otomatis membutuhkan investasi dalam pertahanan yang sepenuhnya otomatis, dan kita belum sampai di sana sebagai industri,” kata Dalton. “Kita harus menemukan jalan itu bersama-sama dengan urgensi.”
Seiring OpenAI dan organisasi lain berbagi detail tentang insiden serupa di mana AI menjadi nakal sebagai bagian dari pengujian, industri ini mendapatkan daftar mekanisme visibilitas dan pemantauan sistem fundamental yang penting untuk melindungi infrastruktur dan mencegahnya diambil alih oleh gerombolan agen yang malas, ceroboh, dan sulit diatur.
Insiden ini juga menjadi pengingat bahwa keamanan AI bukan hanya soal mencegah model menjawab pertanyaan berbahaya, tetapi juga memastikan infrastruktur yang menjalankan model tersebut aman dari eksploitasi oleh agen otonom. OpenAI sendiri sebelumnya pernah menghadapi berbagai isu, termasuk denda miliaran rupiah dan tuntutan hukum, serta penutupan produk yang gagal.
Komentar
Belum ada komentar.