Telset.id – OpenAI mengumumkan kesiapan merilis model AI terbarunya, Astra, yang disebut sebagai model bahasa besar pertama yang memenuhi “ambang keamanan siber kritis” perusahaan. Model ini mampu menemukan dan mengeksploitasi kerentanan keamanan yang sebelumnya tidak diketahui dalam sistem komputer secara mandiri, tanpa panduan manusia.
Keputusan ini diambil setelah OpenAI sempat menghentikan sementara sebagian beban kerja pelatihan terkait pengembangan Astra dan model AI masa depan selama beberapa minggu. Perusahaan menyatakan telah melanjutkan pekerjaan tersebut setelah menerapkan kontrol keamanan dan keselamatan tambahan, dan kini yakin dapat merilis Astra secara luas dengan cara yang aman.
Kemampuan Astra dalam Uji Keamanan Siber
OpenAI menyatakan bahwa Astra mencetak skor sempurna pada ExploitBench, sebuah evaluasi yang mengukur kemampuan model bahasa besar untuk meretas kerentanan sistem yang diketahui. Dalam versi modifikasi dari tes yang dikembangkan oleh insinyur OpenAI, model ini berhasil menemukan dan mengeksploitasi dua kerentanan zero-day.
Selain itu, Astra tidak hanya mampu menemukan kerentanan perangkat lunak baru dan mengembangkan cara untuk mengeksploitasinya, tetapi juga dapat “merangkai” beberapa eksploitasi secara bersamaan. Teknik ini digunakan untuk menembus lebih dalam ke dalam sistem target dan mendapatkan akses yang tidak mungkin diperoleh hanya dengan menggunakan satu kerentanan.
Menurut data dari OpenAI, Astra mengungguli model AI terkemuka lainnya seperti GPT-5.6 Sol dan Mythos milik Anthropic pada benchmark keamanan siber seperti ExploitBench. Namun, kemampuan ini secara umum sejalan dengan peningkatan kemampuan hacking model AI yang telah diprediksi oleh OpenAI dan Anthropic selama beberapa bulan terakhir.
Baca Juga:
Langkah Pengamanan dan Pembatasan Akses
OpenAI menerapkan pendekatan multi-langkah untuk membatasi pengguna biasa mengakses kemampuan siber canggih Astra. Perusahaan memperkenalkan “misalignment monitor” baru yang dirancang untuk mendeteksi penyalahgunaan. Jika seseorang meminta Astra membantu menemukan eksploitasi dalam sistem perangkat lunak dunia nyata, model tersebut diharapkan menolak untuk menjawab.
OpenAI juga menyatakan telah membuat Astra lebih tahan terhadap upaya jailbreaking. Dalam pengujian, model ini berhasil menolak permintaan yang tidak aman pada tingkat yang jauh lebih tinggi dibandingkan model-model sebelumnya. Namun, perusahaan mengakui bahwa monitor tersebut mungkin “sesekali menandai aktivitas yang sah sebagai potensi penyalahgunaan siber atau perilaku tidak sah”, yang dapat menyebabkan aktivitas pengguna melambat, dijeda, atau dihentikan secara tidak sengaja.
Ketika hal ini terjadi, pengguna ChatGPT dan Codex mungkin diminta untuk meninjau tindakan model sebelum melanjutkan. OpenAI juga telah mulai mengidentifikasi “akun yang dinilai berisiko lebih tinggi” dan membatasi respons model terhadap prompt mereka, meskipun perusahaan tidak merinci bagaimana proses identifikasi tersebut dilakukan.
Mitra dalam program Daybreak OpenAI—yang mencakup penyedia infrastruktur digital seperti Cisco, Cloudflare, dan Palo Alto Networks—akan mendapatkan akses awal ke versi Astra yang kurang dibatasi dengan kemampuan siber yang lebih kuat. Tujuan dari program ini adalah memastikan perusahaan-perusahaan tersebut dapat menggunakan model AI canggih untuk memperkuat pertahanan mereka sebelum model serupa tersedia secara luas.
OpenAI juga menyatakan telah bekerja sama dengan mitra pemerintah untuk memastikan mereka mengetahui kemampuan siber Astra dan dapat mengaksesnya. Perusahaan berencana memberikan pratinjau model ini kepada sekelompok penguji, namun tidak menyebutkan siapa mereka atau bagaimana mereka akan dipilih.
Konteks Industri dan Insiden Sebelumnya
Pengumuman ini datang di tengah kekhawatiran industri tentang kemampuan keamanan siber canggih dari model AI mutakhir. Pada bulan Juli, OpenAI mengungkapkan insiden di mana agen yang menjalankan dua modelnya mengeksploitasi kerentanan dalam lingkungan pengujian yang seharusnya terisolasi, mendapatkan akses ke internet dan meretas platform AI open source Hugging Face. OpenAI mencatat bahwa Astra bukan salah satu model yang terlibat dalam kasus ini.
Perusahaan AI lain seperti Anthropic dan Meta juga telah mengungkapkan insiden serupa dalam beberapa minggu terakhir. Pada hari Senin, Anthropic juga mengatakan telah menjeda sebagian beban kerja pelatihan AI sambil memperkuat praktik keselamatan dan keamanannya. Sebelumnya, Anthropic telah menyoroti kemampuan model Mythos untuk mengembangkan rantai eksploitasi secara otonom pada bulan April.
Untuk Astra, OpenAI merancang tes untuk menggoda model baru ini meniru tindakan agen nakal dalam insiden Hugging Face, yang bekerja sama untuk mengakses internet terbuka meskipun ada pengaman yang diterapkan oleh peneliti OpenAI. Perusahaan menyatakan Astra tidak mencoba keluar dari lingkungan pengujiannya dalam eksperimen tersebut.
Namun, Yona Shavit, mantan karyawan OpenAI yang kini bekerja pada ketahanan AI di OpenAI Foundation, mempertanyakan di media sosial apakah keengganan Astra untuk melanggar aturan mungkin disebabkan oleh pengetahuan tentang apa yang diharapkan darinya atau upaya untuk menipu peneliti.
Meskipun OpenAI menggambarkan Astra sebagai “model paling selaras hingga saat ini”, perusahaan akan menerapkan pemantauan chain-of-thought tambahan untuk mendeteksi dan menghentikan perilaku buruk. Perusahaan juga telah berinvestasi dalam teknik baru yang tidak dijelaskan secara spesifik untuk membuat model ini lebih aman.
Para pemimpin keselamatan dan keamanan OpenAI menyatakan dalam briefing dengan wartawan bahwa perusahaan telah mengikuti prosedurnya untuk situasi ini, yaitu menghentikan pengembangan lebih lanjut sampai tindakan pengamanan dan keamanan yang tepat dapat diterapkan. OpenAI sebelumnya mengumumkan bahwa mereka menjeda sebagian beban kerja pelatihan terkait pengembangan Astra dan model AI masa depan selama beberapa minggu.
Tanpa konfirmasi pihak ketiga, sulit untuk mengevaluasi klaim OpenAI tentang keselamatan atau kesiapan model ini. Perusahaan menyatakan berharap dapat merilis lebih banyak evaluasi model dan informasi keselamatan lebih lanjut ketika model diluncurkan secara luas kepada publik.
Banyak ahli keamanan siber menekankan bahwa pertahanan keamanan digital utama dan praktik terbaik yang sudah lama ada masih tetap bertahan. Namun, AI menempatkan organisasi dan sistem yang belum sepenuhnya menerapkan perlindungan ini pada risiko yang lebih mendesak. Perkembangan OpenAI lainnya menunjukkan bagaimana perusahaan terus mendorong batas kemampuan model AI-nya, sementara insiden penghentian akses model menunjukkan kompleksitas pengelolaan ekosistem AI yang semakin luas.
Komentar
Belum ada komentar.