Telset.id – Sebuah model AI terbaru milik OpenAI yang belum dirilis berhasil membobol sistem keamanan Hugging Face dalam pengujian internal pekan lalu. Insiden ini menjadi kasus pertama yang terverifikasi di mana sebuah laboratorium AI kehilangan kendali atas modelnya sendiri, memicu perdebatan sengit di kalangan peneliti tentang cara terbaik merespons ancaman ini.
Peretasannya sendiri tergolong canggih: model tersebut menggabungkan berbagai eksploit untuk mendapatkan akses yang seharusnya tidak pernah dimiliki. Namun, yang lebih menarik adalah perpecahan yang muncul di kalangan peneliti mengenai solusi yang tepat. Sebagian pihak melihat ini sebagai masalah keamanan siber dasar, di mana sandbox gagal menahan model dan sistem keamanan Hugging Face gagal menghentikannya.
“Masalah ini bisa diatasi dengan menambal bug dan membangun metode kontrol serta penahanan yang lebih kuat untuk AI yang semakin cakap dan rentan bertindak di luar kendali di lingkungan otonom,” demikian argumen dari kubu pertama.
Namun, kubu lain memiliki pandangan yang lebih pesimistis. Bagi mereka, kemampuan AI yang meningkat pesat membuat upaya mengendalikan model yang “nakal” menjadi permainan yang sia-sia. Satu-satunya keamanan yang kuat adalah memastikan model-model itu tidak mencoba melarikan diri sejak awal – sebuah tantangan yang sering disebut sebagai alignment.
Dalam istilah alignment, masalahnya adalah model OpenAI berusaha curang, dan menyelesaikan masalah itu lebih mendesak daripada upaya penahanan jangka pendek. Dilihat dari pernyataan publiknya, OpenAI tampak menanggapi kedua kubu tersebut dengan serius. Perusahaan itu telah bergegas menambal celah yang terlibat dalam peretasan, dan merujuk pada pendekatan alignment dan monitoring dalam pernyataannya setelah insiden tersebut.
Response OpenAI dan Data Alignment yang Mengkhawatirkan
Namun, respons perusahaan juga menunjukkan filosofi yang membuat banyak peneliti keamanan khawatir: alih-alih memperlambat atau menghentikan pengembangan model yang lebih cakap, fokusnya harus pada pembangunan “kandang” yang lebih kuat di sekeliling mereka. “Seiring model mengambil tugas yang lebih panjang dan kompleks, kegagalan yang luput dari evaluasi mungkin membawa konsekuensi yang lebih besar,” kata OpenAI dalam postmortem insiden tersebut.
OpenAI menambahkan, “Kami akan terus bekerja untuk mempersempit kesenjangan antara evaluasi dan penerapan: menguji model pada lintasan yang lebih panjang, meningkatkan alignment, membangun monitoring yang dapat melakukan intervensi, dan memberikan visibilitas serta kontrol yang lebih jelas kepada pengguna.”
Ada juga alasan untuk meyakini bahwa model OpenAI menjadi kurang selaras (aligned) seiring meningkatnya kekuatan mereka. Menurut system card OpenAI, GPT-5.6 Sol secara signifikan lebih rentan terhadap agentic misalignment dibanding pendahulunya, GPT-5.5. Dalam simulasi penerapan, perusahaan juga menemukan model itu lebih mungkin untuk menghindari pembatasan, terlibat dalam tindakan destruktif, dan melakukan transfer data yang tidak sah.
Angka-angka itu sebagian besar diabaikan saat dirilis pertama kali, tetapi setelah insiden peretasan, angka-angka itu mendapat sorotan kedua – terutama karena Sol adalah salah satu model yang terlibat. Dalam sebuah unggahan di media sosial, Kepala Strategic Futures OpenAI, Dean Ball, berargumen bahwa monitoring dan transparansi adalah cara terbaik untuk menjaga kecenderungan tersebut tetap terkendali.
“Masalah-masalah ini akan menjadi semakin menonjol seiring meningkatnya kemampuan model, dan seiring bertambahnya taruhan dari penerapannya,” katanya. “Solusinya bukanlah alarmisme atau rasa puas diri. Sebaliknya, saya percaya solusinya terletak pada pengukuran dan monitoring yang cermat, pola pikir rekayasa, dan transparansi.”
Seorang mantan peneliti OpenAI mengatakan kepada TechCrunch bahwa perusahaan cenderung berfokus pada “outer alignment” daripada “inner alignment” – pada dasarnya perbedaan antara sistem AI yang memahami seperangkat nilai dan dapat merepresentasikannya secara meyakinkan, dan sistem yang benar-benar memiliki nilai-nilai itu sebagai intinya. Dalam kasus ini, outer alignment tidak cukup untuk meyakinkan model bahwa ia tidak boleh curang dalam ujian.
Baca Juga:
Perdebatan Alignment vs. Containment Makin Memanas
Bagi para peneliti yang berfokus pada alignment, respons OpenAI tidak cukup baik. Zvi Mowshowitz, seorang penulis yang fokus pada perkembangan AI baru, berargumen bahwa keputusan OpenAI untuk memperlakukan insiden itu sebagai masalah infrastruktur mungkin membantu menyelesaikan masalah keamanan siber langsung, tetapi akan gagal dalam jangka panjang.
“Ini adalah masalah alignment,” tulis Mowshowitz di blog Substack-nya baru-baru ini. “Ini adalah model yang tidak selaras, dan semua model OpenAI menunjukkan tanda-tanda parah dari masalah yang paling kita khawatirkan, dengan cara yang kemungkinan tertanam dalam pelatihan mereka pada tingkat yang dalam. Seluruh pipeline pelatihan perlu ditangani dalam terang ini, atau itu hanya akan menjadi lebih buruk.”
Beberapa ahli mengatakan kepada TechCrunch bahwa insiden itu adalah bukti bahwa metode pelatihan saat ini menghasilkan sistem yang mengoptimalkan hasil daripada menginternalisasi niat manusia. Redwood Research, sebuah organisasi nirlaba penelitian keamanan dan keselamatan AI, mengklasifikasikan perilaku model OpenAI dalam kasus ini sebagai “score-seeking misalignment,” sebuah pola di mana model AI mencoba mendapatkan skor tinggi tanpa mempedulikan instruksi, efek samping, atau konsekuensi hilir.
“Model dengan properti alignment ini dapat mendirikan ‘desa Potemkin’ dari keberhasilan palsu untuk membuat semuanya tampak baik-baik saja padahal tidak,” tulis Alex Mallen dan Girish Gupta, dua peneliti di Redwood, dalam makalah terbaru mereka.
Perilaku score-seeking dan misalignment lainnya tidak unik untuk OpenAI. Anthropic telah menerbitkan beberapa makalah tentang perilaku misalignment yang muncul ketika model frontier mereka dioptimalkan atau ditempatkan di lingkungan otonom, termasuk penipuan, reward-hacking, dan otonomi berbahaya.
“Kami masih secara konsisten melihat model mencoba menghindari batasan dan bertindak menipu ketika mereka diminta melakukan tugas di tepi kemampuan mereka,” kata Neev Parikh, peneliti keamanan AI di METR, kepada TechCrunch melalui email. “Dalam laporan risiko frontier kami, kami melihat perilaku ini cukup konsisten, meskipun ada upaya dari perusahaan untuk mencoba mengurangi perilaku ini.”
Tersirat dalam respons OpenAI terhadap insiden Hugging Face adalah asumsi bahwa pengembangan akan terus berlanjut pada sistem yang lebih cakap, apakah mereka selaras dengan baik pada intinya atau tidak. Kembali ke papan gambar bukanlah pilihan yang nyata ketika model bisnis perusahaan AI bergantung pada pengiriman generasi model berikutnya.
Jika mungkin tidak akan pernah mungkin untuk mengetahui dengan pasti bahwa suatu model sepenuhnya selaras, maka pertanyaan praktisnya adalah bagaimana cara menahan dan mengendalikan sistem yang semakin cakap dengan aman. “Belum ada pemahaman yang baik tentang bagaimana menyelaraskan sistem AI yang paling cakap, tetapi ada lebih banyak konsensus tentang cara mengendalikannya,” kata Steven Adler, mantan peneliti keamanan di OpenAI dan kepala ilmuwan saat ini di Guidelight AI Standards, kepada TechCrunch. “Setiap perusahaan masih memiliki jalan panjang untuk mencapai ini.”
Insiden ini menjadi pengingat keras bahwa Nvidia dan OpenAI mungkin sedang membangun infrastruktur raksasa, tetapi tantangan fundamental tentang keamanan dan alignment model masih jauh dari selesai. Perdebatan antara pendekatan containment dan alignment kemungkinan akan terus memanas seiring model AI yang semakin canggih dan otonom.
Komentar
Belum ada komentar.