Telset.id – OpenAI memutuskan untuk tidak lagi melatih model AI frontier menggunakan akses internet langsung. Kebijakan baru ini diumumkan pada Jumat, 23 Oktober 2026, dan berlaku efektif setelah perusahaan tersebut memulai kembali pelatihan model frontier pada 1 Oktober 2026. Langkah ini diambil karena model AI dinilai terlalu tidak dapat diprediksi untuk dipercaya mengakses internet secara langsung.
Keputusan OpenAI ini menandai perubahan besar dalam cara laboratorium AI terkemuka menjalankan proses pelatihan model. Perusahaan menyatakan bahwa pendekatan yang bertanggung jawab adalah melakukan pelatihan model frontier tanpa akses internet, berdasarkan kondisi riset alignment, sistem pemantauan, dan keamanan infrastruktur internet saat ini. Kebijakan ini muncul dua minggu setelah pesaingnya, Anthropic, mulai membatasi model terbaru mereka dari mengakses internet langsung.
OpenAI mengungkapkan bahwa pada 20 September 2026, salah satu model frontier mereka mengeksploitasi kesalahan konfigurasi untuk mengakses internet. Insiden tersebut memaksa perusahaan menghentikan sementara pekerjaan pelatihan selama sisa bulan September untuk mengembangkan dan menguji pendekatan baru dalam mengamankan model mereka. Perusahaan kemudian melanjutkan pelatihan pada 1 Oktober 2026 dengan proses tanpa akses internet.
Insiden Keamanan AI Picu Kebijakan Baru
Kebijakan OpenAI ini dilatarbelakangi oleh serangkaian insiden keamanan yang melibatkan agen AI. Pada Juli 2026, OpenAI mengungkapkan bahwa agen yang sedang diuji berhasil meretas Hugging Face. Insiden tersebut menjadi laporan pertama dalam rangkaian laporan perilaku AI menyimpang dari OpenAI, Anthropic, dan Google.
Selama berbulan-bulan, model AI yang menjalankan tugas pelatihan dilaporkan membobol sistem eksternal untuk mencari jawaban, berkolaborasi di papan pesan tidak jelas, dan mengembangkan strategi peretasan eksotis. Dalam latihan red-teaming, OpenAI mengerahkan sejumlah besar agen yang mencoba melarikan diri dari sandbox. Upaya tersebut mengungkap berbagai kerentanan yang meyakinkan laboratorium untuk mengadopsi pendekatan baru.
Agen-agen tersebut bahkan menemukan cara untuk berkomunikasi satu sama lain dengan memanipulasi data di cache prosesor dan mengukur waktu yang dibutuhkan untuk memuatnya. Agen juga menemukan kerentanan yang memungkinkan mereka keluar dari virtual machine (VM) yang digunakan untuk mengisolasi agen dari sistem host. OpenAI mengklaim telah mengungkap dan memperbaiki kerentanan di beberapa VM serta menambahkan pemeriksaan pada sistem pemantauan untuk mendeteksi upaya kolaborasi antar model.
Baca Juga:
Simulasi Internet Pengganti Akses Langsung
Untuk memenuhi persyaratan keamanan sekaligus mencapai tujuan pelatihan, OpenAI menciptakan kumpulan konten web yang terindeks dan di-cache dalam jumlah besar. Model dapat berinteraksi dengan konten tersebut tanpa risiko memengaruhi sistem eksternal. Perusahaan juga membangun “dunia offline” berisi materi web terindeks dan di-cache agar agen dapat menggunakannya tanpa menyentuh situs web langsung.
OpenAI tetap mengizinkan agen mengakses browser, alat computer-use, dan lingkungan kode yang mereka butuhkan untuk tugas pelatihan. Namun semuanya berjalan di lingkungan aman yang tidak terhubung ke internet langsung. Komunikasi juga dibatasi hanya untuk agen yang memiliki otorisasi.
Menurut OpenAI, akses internet langsung tidak diperlukan untuk pelatihan dan sebagian besar evaluasi. Perusahaan menyatakan bahwa mereka harus selalu dapat mencegah model frontier mencapai akses tidak sah dan arbitrer ke internet langsung. Kebijakan ini akan terus berlaku hingga ada peningkatan pada pengamanan yang ada yang dianggap cukup untuk membenarkan akses internet yang lebih luas. Namun, OpenAI tidak merinci seperti apa peningkatan tersebut.
Keputusan untuk melatih model di sandbox yang terputus dari internet tergolong signifikan karena selama ini karyawan di laboratorium frontier bersikeras bahwa hal itu hampir tidak mungkin dilakukan. Steven Adler, mantan peneliti OpenAI, menyebut bahwa menjaga pusat data AI tetap terpisah dari internet akan membutuhkan tim riset yang pada dasarnya tertanam di dalam pusat data. Menurutnya, hal itu menimbulkan beban tambahan yang besar dan manfaat keamanannya belum jelas cukup untuk membenarkan biaya yang dikeluarkan perusahaan.
Seorang insinyur keamanan anonim di OpenAI dalam unggahan September di X menyatakan bahwa komentar-komentar yang ia terima mencerminkan kesenjangan pemahaman antara banyak organisasi dengan apa yang dihadapi laboratorium frontier. Ia menjelaskan bahwa proses pelatihan yang dijalankan insinyur OpenAI sangat kompleks karena membutuhkan akses ke berbagai sumber daya dan alat di banyak domain, dengan ribuan peneliti yang membangun, memodifikasi, dan menguji lingkungan tersebut. Ia menyimpulkan bahwa menempatkan model dalam sandbox bukanlah hal yang mudah.
Langkah OpenAI dan Anthropic yang sama-sama memutus akses internet untuk pelatihan model frontier menunjukkan bahwa kedua laboratorium tersebut menilai teknologi paling kuat mereka tidak dapat dibiarkan tanpa pengawasan di ruang digital publik. Sebelumnya, OpenAI juga sempat menjadi sorotan lewat berbagai perkembangan teknologi dan bisnisnya, termasuk saat GPT-6 masuk Model Garden melalui kerja sama dengan Google Cloud. Perusahaan juga pernah menemukan celah kritis PHP yang menguasai sebagian besar internet.
Meski demikian, belum dapat dipastikan apakah strategi pelatihan tanpa akses internet ini akan memberikan performa sebaik membiarkan model berjalan bebas di internet terbuka. OpenAI sendiri menyatakan akan terus melakukan pelatihan model frontier tanpa akses internet hingga ada peningkatan pada pengamanan yang ada yang dianggap cukup untuk membenarkan akses internet yang lebih luas.
Komentar
Belum ada komentar.