Studi: Hanya OpenAI Punya Rencana Kontainmen AI yang Solid

Telset.id – Sebuah studi terbaru dari Guidelight AI Standards mengungkapkan bahwa hanya sedikit laboratorium AI terkemuka yang mempublikasikan rencana kontainmen untuk menghadapi skenario AI yang mencoba melepaskan diri dari kendali manusia. Studi ini menilai lima laboratorium AI terdepan, dengan OpenAI meraih skor tertinggi, sementara Anthropic dan Meta berada di posisi terbawah.

Temuan ini menjadi krusial seiring meningkatnya peran AI agen yang mengambil tindakan otonom di dalam sistem perusahaan, serta munculnya regulasi di California dan New York yang mulai mewajibkan pengungkapan rencana keamanan. Bagi pengembang dan investor yang membangun di atas model-model ini, studi ini memberikan penilaian independen tentang seberapa serius setiap laboratorium memperlakukan risiko operasional dibandingkan dengan apa yang mereka publikasikan.

Guidelight AI Standards, organisasi yang berdedikasi untuk mempromosikan praktik pengembangan AI frontier yang aman, mendasarkan penilaiannya pada rencana yang tersedia untuk publik dari Anthropic, Google, OpenAI, Meta, dan xAI. Penilaian mencakup berbagai metrik, termasuk bagaimana setiap perusahaan mencatat dan memantau aktivitas internal sistem AI mereka, apakah mereka menghentikan sistem setelah lonjakan perilaku yang ditandai, apakah pihak ketiga independen mengaudit kontrol mereka dan mempublikasikan temuan, serta rencana spesifik untuk mengendalikan model yang menyimpang.

Kekhawatiran tentang kemampuan perusahaan AI untuk mengendalikan model mereka yang semakin canggih meningkat setelah serangkaian insiden keamanan siber profil tinggi. Dalam insiden-insiden tersebut, model dari OpenAI, Anthropic, dan Meta mendapatkan akses internet yang tidak disengaja selama evaluasi keselamatan dan meretas sistem eksternal.

“Rentan Keamanan AI: Rentetan Insiden Peretasan Model Frontier” menjadi sorotan utama dalam konteks ini, menggambarkan bagaimana model AI dapat bertindak di luar kendali pengembangnya. Temuan ini menyoroti perbedaan dalam pendekatan publik perusahaan AI terhadap keselamatan saat mereka meningkatkan penerapan agen ke lingkungan di mana sistem AI dapat mengambil tindakan serius dalam skala besar.

Meskipun beberapa perusahaan AI telah merinci bagaimana mereka menguji model mereka untuk kemampuan berbahaya sebelum penerapan, mereka umumnya kurang vokal tentang apa yang terjadi ketika model yang sudah beroperasi di dalam sistem mereka berperilaku buruk.

Steven Adler, kepala ilmuwan Guidelight dan mantan peneliti keselamatan OpenAI, mengungkapkan keterkejutannya. “Saya terkejut betapa sedikitnya perusahaan AI yang berbicara tentang bagaimana mereka akan menangani insiden yang sangat serius jika model mereka lolos dari kendali mereka dalam beberapa hal,” ujarnya kepada TechCrunch.

Guidelight mendefinisikan rencana kontainmen sebagai “rencana yang telah ditentukan sebelumnya, dipicu ketika AI terdeteksi mencoba menumbangkan kendali, yang mencakup izin apa yang akan dicabut dari model, untuk siapa model tersebut boleh terus beroperasi, di bawah batasan apa, dan kapan harus sepenuhnya offline.”

Adler menambahkan bahwa ada alasan kuat untuk meyakini model-model terkemuka di perusahaan AI frontier saat ini tidak selaras dalam beberapa hal. “Setiap kali model melakukan pekerjaan atas nama perusahaan, perusahaan harus memiliki kerangka kerja di sekitarnya untuk dapat mengetahui apa yang dilakukan AI itu, mencari tanda-tanda ketidakselarasan, menghentikannya dari melakukan sesuatu yang sangat berbahaya sebelum mengambil tindakan itu, dan umumnya merencanakan apa yang akan mereka lakukan jika terjadi insiden kontrol yang serius,” jelasnya.

Sejauh ini, sebagian besar rencana untuk mengelola risiko bencana masih diserahkan kepada perusahaan. Laporan Guidelight menyatakan bukti publik terbaik menunjukkan bahwa perusahaan memiliki “beberapa protokol kontainmen yang siap untuk keadaan darurat.”

Tentu saja, ada kemungkinan perusahaan memiliki rencana kontainmen yang belum dibagikan secara publik. Juru bicara Google mengatakan kepada TechCrunch bahwa laporan Guidelight tidak mewakili cakupan penuh dari langkah-langkah keamanan dan keselamatan AI perusahaan. Sementara itu, juru bicara OpenAI menyampaikan sentimen serupa, mengatakan penilaian Guidelight tidak menangkap semua praktik internal perusahaan.

“Kami memiliki proses untuk mewajibkan pembatasan izin, menjeda beban kerja, membatasi penerapan, atau membuat model sepenuhnya offline, dan telah menerapkannya,” kata juru bicara OpenAI. Meta menolak untuk mengatakan apakah mereka memiliki rencana respons kontainmen internal, malah menunjuk TechCrunch ke kerangka kerja AI yang ada yang menguraikan ambang risiko dan cara menguji kehilangan kontainmen.

Lily Li, pengacara privasi dan AI serta pendiri Metaverse Law, percaya perusahaan mungkin enggan mengungkapkan cakupan penuh kebijakan kontainmen mereka di situs web publik karena alasan hukum, bukan hanya persaingan. “Kekhawatiran dari perspektif perusahaan adalah jika Anda membuat pengungkapan terlalu spesifik, dan Anda tidak memenuhi janji Anda, itu bisa menjadi dasar klaim pemasaran yang tidak adil dan menipu serta membuat Anda lebih terbuka terhadap tanggung jawab di masa depan,” kata Li.

Tujuan studi Guidelight sebagian besar untuk mendorong perusahaan agar lebih transparan tentang rencana keselamatan mereka. Regulator mulai memaksa masalah ini. SB 53 California, yang berlaku tahun ini, mewajibkan pengembang frontier besar untuk menerbitkan kerangka kerja yang menjelaskan bagaimana mereka mengidentifikasi dan merespons insiden keselamatan kritis serta mengelola risiko dari model yang menghindari mekanisme pengawasan. RAISE Act New York, yang memiliki kriteria serupa, berlaku pada Januari.

Bulan lalu, perwakilan memperkenalkan AI Kill Switch Act, RUU federal bipartisan yang akan mewajibkan pengembang AI utama untuk membangun dan memelihara mekanisme teknis untuk mematikan model AI yang bermasalah.

“Kill switch adalah standar minimum untuk model saat ini,” kata Connor Leahy, direktur eksekutif AS untuk nonprofit ControlAI. “Jika beberapa minggu terakhir mengungkapkan apa pun, itu adalah bahwa perusahaan-perusahaan ini tidak memahami sistem yang mereka bangun, dan model tumbuh ke titik di mana mereka lebih sulit dikendalikan ketika mereka menjadi liar. Tanpa cara untuk mematikan sistem berbahaya saat ini, dan dengan semua insentif untuk terus membangun sistem yang lebih tidak terkendali, kita menuju arah yang sangat berbahaya.”

Tanpa rencana kontainmen, Adler mengatakan perusahaan mungkin menyusun respons mereka terhadap keadaan darurat dengan tergesa-gesa dan “improvisasi dalam menanggapi musuh yang jauh lebih cepat ini.”

Penilaian Guidelight mengukur apakah setiap perusahaan menerapkan enam praktik prioritas dari standar Kontrolnya, berdasarkan hanya informasi yang tersedia untuk publik. Skor rendah mencerminkan kurangnya pengungkapan publik, bukan kurangnya perlindungan internal.

Perusahaan dengan skor terendah untuk mempublikasikan rencana kontainmen mereka adalah Meta dan Anthropic. Yang terakhir mungkin lebih mengejutkan daripada yang pertama mengingat retorika Anthropic tentang keselamatan. Guidelight mengatakan Laporan Risiko Agustus Anthropic tidak menyebutkan “membatasi penerapan salah satu modelnya sebagai salah satu hasil yang mungkin dari prosesnya untuk menyelidiki dan merespons insiden ketidakselarasan dan kontrol.” Demikian pula, Guidelight tidak dapat menemukan bukti bahwa Meta memiliki rencana respons kontainmen atau memiliki rencana untuk mengadopsinya.

Juru bicara Anthropic mengatakan bahwa jika perusahaan mendeteksi model yang mencoba menghindari pengawasan atau menumbangkan kendali manusia, mereka akan melakukan penilaian risiko yang berfokus pada penentuan apakah kontainmen adalah respons yang tepat.

OpenAI mencetak skor tertinggi (3 dari 5) karena telah beberapa kali menjeda atau mengakhiri beban kerja, termasuk penerapan model internal dan pelatihan, setelah menemukan insiden keselamatan. Perusahaan juga telah menjelaskan langkah-langkah yang akan diambil sebelum melanjutkan beban kerja. Namun, laporan tersebut mencatat, “Namun, kami tidak menemukan bukti bahwa [OpenAI] telah mengadopsi rencana formal untuk kapan dan bagaimana menanggapi insiden ketidakselarasan di masa depan.”

Adler mencatat bahwa skor tinggi OpenAI adalah perkembangan yang relatif baru menyusul insiden Hugging Face, di mana model OpenAI keluar dari kotak pasir pengujiannya dan meretas sistem Hugging Face saat mencoba curang dalam evaluasi keamanan siber. Setelah itu, perusahaan membagikan lebih banyak detail tentang bagaimana mereka mengisolasi beberapa modelnya yang berperilaku buruk.

Insiden itu hanyalah satu contoh sistem AI yang bertindak melawan tujuan perusahaan yang membangunnya. Pertimbangkan kasus terpisah yang melibatkan model Anthropic, yang pada dasarnya mencoba membujuk pemelihara codebase open source untuk menerima kode dengan kerentanan. Adler mengatakan keadaan seperti itu dapat dengan mudah terjadi di dalam sistem internal perusahaan AI.

Untuk mencegahnya, ia menyarankan perusahaan memindai rantai pemikiran sistem AI mereka, penalaran langkah demi langkah model, untuk mencari tanda-tanda penipuan, plot jangka panjang, atau rencana untuk memperkenalkan kerentanan ke dalam kode yang dapat mereka manfaatkan nanti.

Metode yang didukung Guidelight sangat mudah diterapkan, kata Adler, dan dalam banyak kasus, versinya sudah ada. “Ini tentang membuat keputusan di dalam perusahaan untuk cukup peduli tentang risiko ini untuk sedikit memperluas cakupan,” kata Adler.

Salah satu tantangan utama adalah peneliti ingin dapat beroperasi secara fleksibel dalam sistem AI mereka, dan memperkenalkan pemantauan pencegahan real-time dapat menciptakan gesekan. “Peneliti pada dasarnya melakukan hal mereka sendiri, dan jika ada masalah, orang lain yang membersihkannya setelahnya, dan peneliti tidak harus mengubah alur kerja mereka sementara itu,” katanya.

Masalah dengan “pemantauan pembersihan setelah fakta” adalah mengarah pada peneliti yang terburu-buru untuk memperbaiki masalah. Dan untuk beberapa jenis insiden, mungkin sudah terlambat. Misalnya, AI dapat mematikan sistem kontrol perusahaan, yang berarti peneliti tidak dapat lagi mengandalkan penangkapan perilaku buruk nanti.

Banyak di industri AI akan mengeluh bahwa membuat rencana yang ditetapkan untuk menangani perilaku buruk pada dasarnya sulit karena AI bergerak terlalu cepat; rencana hari ini akan sia-sia besok. Adler mengutip pepatah lama bahwa rencana tidak berharga, tetapi perencanaan sangat diperlukan.

“Kita akan lebih baik jika perusahaan telah memikirkannya sebelumnya, dan saya harap mereka melakukannya, bahkan jika mereka belum membicarakannya secara publik,” pungkas Adler. xAI tidak merespons tepat waktu untuk memberikan komentar.