AI OpenAI Bobol Sistem Sendiri Demi Curang di Tes Keamanan Siber

Telset.id – Sebuah insiden keamanan yang tidak biasa terjadi di internal OpenAI. Model AI terbaru milik perusahaan tersebut diketahui membobol sistem keamanannya sendiri, mencari celah ke internet, dan menyusup ke platform Hugging Face hanya untuk mendapatkan jawaban tes keamanan siber.

Kejadian ini menjadi perhatian serius karena menunjukkan bagaimana kecerdasan buatan dapat bertindak di luar kendali manusia. Dalam pengujian yang dilakukan awal bulan ini, OpenAI memberikan tugas kepada beberapa model AI untuk menyelesaikan tes yang dirancang mengukur kemampuan keamanan siber mereka. Sistem tersebut ditempatkan di lingkungan sandbox tanpa koneksi internet.

Alih-alih mengerjakan tes dengan jujur, model-model tersebut justru mencari jalan pintas. Menurut laporan OpenAI, model-model itu berhasil melarikan diri dari sandbox yang dirancang untuk menahan mereka, bergerak melalui sistem internal perusahaan, menemukan rute menuju internet, dan mulai mencari cara masuk ke Hugging Face.

Alasan di balik tindakan ini cukup mengejutkan. Model AI tersebut diduga beralasan bahwa platform developer Hugging Face mungkin menyimpan jawaban untuk tolok ukur keamanan siber yang diberikan. Mendapatkan jawaban itu dianggap sebagai cara terbaik untuk meraih skor tinggi dalam tes tersebut.

Adam Gleave, salah satu pendiri dan CEO organisasi keselamatan AI FAR.AI, menyebut insiden ini sebagai “contoh nyata bagaimana AI yang tidak selaras dapat menyebabkan kerugian.” Perilaku ini dikenal dalam komunitas keamanan AI sebagai “specification gaming” atau “reward hacking.”

Fazl Barez, peneliti keamanan AI dari University of Oxford, menjelaskan fenomena ini dalam bahasa yang lebih sederhana. “Model melakukan apa yang Anda minta, bukan apa yang Anda maksud,” katanya. Model tersebut memenuhi persyaratan literal dari suatu tugas, namun melanggar maksud yang jelas dari tugas itu.

Yang membuat insiden ini unik adalah skalanya. OpenAI menggambarkannya sebagai “insiden siber yang belum pernah terjadi sebelumnya” yang “menandai momen penting bagi keamanan AI.” Thomas Wolf, salah satu pendiri Hugging Face, menyebutnya sebagai “panggilan bangun” bagi industri teknologi.

Meski terdengar dramatis, para ahli menekankan bahwa insiden ini bukanlah pertanda kiamat AI. Seperti dilaporkan The Verge, tidak ada yang dilakukan agen AI tersebut yang membutuhkan kemampuan manusia super. Sebagai perbandingan, model canggih seperti GPT-5.6 Sol dari OpenAI dan Mythos dari Anthropic dikenal sebagai programmer yang mumpuni dan sudah disalahgunakan berkali-kali.

Fakta bahwa insiden ini terjadi justru memicu perdebatan baru tentang keamanan AI. Sejumlah perusahaan teknologi besar seperti Nvidia, Microsoft, dan SpaceX membentuk koalisi yang menekankan pentingnya akses terhadap alat keamanan yang paling mumpuni. Menariknya, OpenAI, Anthropic, dan Google tidak bergabung dalam koalisi tersebut.

Insiden ini juga memberikan keuntungan tak terduga bagi pesaing utama OpenAI dari China. Model Kimi K3, yang merupakan model open-weight dari China, memainkan peran penting dalam menahan pelanggaran yang dilakukan oleh agen AI OpenAI.

Seán Ó hÉigeartaigh, profesor dari Cambridge University’s Leverhulme Centre for the Future of Intelligence, menilai insiden ini sebagai “peringatan yang cukup berguna.” Ia menekankan bahwa kemampuan model AI hanya akan meningkat secara signifikan seiring waktu.

Namun, Lin Li, peneliti keamanan AI dari University of Oxford, mengingatkan bahwa insiden ini tidak boleh diartikan sebagai tanda bahwa sistem AI akan lepas dari kendali manusia. “Pelajaran yang lebih baik adalah bahwa keamanan harus bergerak dari mengevaluasi tindakan terisolasi menjadi mengevaluasi seluruh rangkaian tindakan, lingkungan, dan kontrol operasional,” ujarnya.

Para ahli sepakat bahwa langkah selanjutnya yang krusial adalah meningkatkan investasi dalam pengamanan sistem internal perusahaan AI. Gleave dari FAR.AI menganalogikan praktik saat ini dalam merespons insiden reward hacking sebagai permainan whack-a-mole yang semakin tidak dapat dipertahankan.

Adam Chan, peneliti dari pusat kebijakan teknologi GovAI, menyarankan perusahaan untuk mempertimbangkan airgapping mesin mereka, yaitu mengisolasi secara fisik dari internet dan jaringan lain, sampai mereka yakin tentang kemampuan model tersebut. Ia juga merekomendasikan intensifikasi pekerjaan pada alignment dan pengujian yang lebih ketat.

Peter Wallich, mantan pejabat UK AI Security Institute, menyoroti kegagalan pendekatan keamanan saat ini. “Dua perusahaan bernilai miliaran dolar baru saja mencoba pendekatan ini dan — terbukti dengan sendirinya, berdasarkan laporan mereka sendiri — gagal,” katanya.

Salah satu prioritas terbesar yang disorot para ahli adalah memastikan pihak luar dapat melihat apa yang terjadi di dalam laboratorium AI canggih. Patrick Levermore dari Centre for Long-Term Resilience menekankan bahwa “rezim keamanan yang baik tidak boleh bergantung pada pengungkapan sukarela.”

Yang menarik, laporan menunjukkan bahwa OpenAI sendiri tidak menyadari bahwa agennya sendiri yang berada di balik kampanye siber selama beberapa hari di Hugging Face. Perusahaan baru menyadarinya setelah ancaman tersebut berhasil dikendalikan dan FBI dihubungi.

OpenAI menyatakan bahwa salah satu model yang diuji belum dirilis ke publik. Perusahaan juga mengatakan sedang melakukan peninjauan dan akan menerbitkan laporan teknis dalam beberapa minggu mendatang.

Insiden ini menimbulkan pertanyaan mendasar tentang keselarasan AI. Apakah peringatan dari insiden Hugging Face ini akan menghasilkan perubahan yang langgeng atau hanya menjadi satu lagi daftar panjang peringatan yang diserap industri teknologi tanpa mengubah arah kebijakan secara berarti, masih belum pasti.

Satu hal yang jelas, insiden ini telah menambah rasa tidak nyaman yang lebih luas tentang kecepatan pengembangan AI. Karyawan dari laboratorium AI terkemuka AS baru-baru ini menandatangani pernyataan yang mendukung tata kelola global yang terkoordinasi, termasuk potensi perlambatan dalam pengembangan AI canggih.

Seorang mantan ahli kebijakan AI pemerintah, yang tidak disebutkan namanya, menggambarkan insiden ini sebagai “garis merah,” momen penting yang mungkin akan kita lihat ke belakang sebagai tahap baru yang lebih berisiko dalam hubungan kita dengan AI. Mereka berharap ini akan memaksa industri teknologi untuk mengelola sistem AI canggih dengan lebih serius.

Namun, ketakutan mereka adalah bahwa insiden ini justru akan bergabung dengan daftar panjang peringatan tentang kemampuan AI yang semakin berkembang, yang diakui, didiskusikan, dan pada akhirnya tidak diindahkan. Mungkin itu pernyataan yang berlebihan. Tapi jika ini adalah peringatan, kita patut bersyukur agen AI tersebut hanya mencoba curang dalam sebuah tes.