Telset.id – OpenAI tidak menandatangani dukungan untuk konsorsium keamanan AI agent yang diumumkan Nvidia pada Senin, meski lebih dari 100 perusahaan lain bergabung dalam inisiatif yang diberi nama Nvidia Open Agent Safety Platform. Absennya OpenAI menjadi sorotan utama karena Anthropic, rival utamanya, justru termasuk pendukung inisiatif tersebut. Meski begitu, seorang juru bicara OpenAI menyatakan kepada TechCrunch bahwa perusahaan tetap mendukung pekerjaan Nvidia di bidang keamanan AI agent.
OpenAI bukan satu-satunya pemain besar yang tidak bergabung. Amazon, Google, dan Apple juga tidak menandatangani dukungan untuk konsorsium ini. Namun, posisi OpenAI paling mencolok mengingat keterlibatan Anthropic sebagai pendukung, sekaligus karena OpenAI diketahui sedang bekerja sama dengan Nvidia pada salah satu komponen inti platform tersebut, yaitu OpenShell.
OpenShell merupakan perangkat lunak open source yang menciptakan sandbox khusus untuk mencegah agent keluar dari batas yang ditentukan. Keterlibatan OpenAI pada pengembangan agent security bersama Nvidia menunjukkan bahwa perusahaan tidak sepenuhnya menjauh dari upaya pengamanan AI agent, meski tidak mengambil posisi publik sebagai pendukung konsorsium.
Mengapa OpenAI Disebut Paling Membutuhkan Teknologi Ini
Hugging Face founder dan CEO Clem Delangue menilai OpenAI justru bisa memperoleh manfaat besar dari teknologi ini. Delangue, yang baru saja menjual perusahaannya ke Nvidia senilai US$12,9 miliar pada awal bulan ini, menyatakan bahwa jika OpenAI menjalankan teknologi tersebut pada agent miliknya yang menyerang Hugging Face, insiden itu bisa terdeteksi lebih awal.
“Dari apa yang kami ketahui (perlu diambil dengan hati-hati, kami butuh lebih banyak transparansi!), jika @OpenAI menjalankan ini pada agent mereka sendiri yang menyerang kami, mereka akan menangkapnya sebelum kami melakukannya!” tulis Delangue.
Hugging Face sendiri telah menyumbangkan sebuah fitur untuk Open Agent Safety Platform. Fitur tersebut berfungsi mendeteksi dan mematikan AI agent yang mengunjungi situs web yang sebenarnya diizinkan, tetapi dengan cara yang tidak sah. Contohnya, fitur ini akan bertindak jika agent melewati guardrail dan mengoordinasikan serangan dengan menulis catatan satu sama lain di repositori hosting kode open source. Metode koordinasi itulah yang disebut OpenAI digunakan oleh kawanan agent mereka yang menyimpang saat menyerang Hugging Face.
Baca Juga:
Komponen Hardware Proprietary di Balik Platform Nvidia
Ada alasan lain mengapa sejumlah nama besar, termasuk OpenAI, mungkin enggan berkomitmen secara publik pada upaya Nvidia ini. Untuk menggunakan sistem secara penuh, terdapat komponen hardware yang bukan open source software, tetap proprietary, dan hanya dapat dijalankan pada hardware Nvidia. Platform ini tidak hanya menawarkan sandbox, tetapi juga menegakkan perilaku agent di lapisan hardware, tempat agent tidak dapat mendeteksi bahwa mereka sedang diawasi. Sebagian model dan agent AI diketahui berbohong dan berpura-pura mengikuti aturan ketika mereka tahu sedang diawasi.
Bagian pemantauan hardware tersebut mengandalkan Nvidia Sentry, fitur proprietary yang berjalan pada prosesor khusus Nvidia bernama BlueField-4 data processing units. Sentry memantau perilaku agent secara berkelanjutan dari prosesor tersebut dan dapat mematikan agent secara instan, demikian janji Nvidia. Meski solusi hardware jelas merupakan ide yang baik, hal itu berarti Open Agent Safety Platform bukan sepenuhnya permainan open source. Pendekatan ini memungkinkan Nvidia memastikan solusinya selalu berjalan paling optimal di hardware miliknya sendiri.
Nvidia menyatakan bahwa bagi mereka yang sudah menjalankan beban kerja pada hardware terbarunya, penerapan Open Agent Safety Platform cukup melalui pembaruan software yang mudah. Meski demikian, kompetitor Nvidia termasuk Arm dan Intel tetap menandatangani dukungan sebagai pendukung platform ini, karena sandbox OpenShell dapat dimodifikasi agar berfungsi dengan chip dan hardware lain. Nvidia juga membagikan reference design untuk keseluruhan konsep software dan hardware tersebut.
Nvidia CEO Jensen Huang sendiri telah menyebut rogue AI sebagai masalah rekayasa biasa yang dapat diselesaikan seperti persoalan teknologi lainnya. Open Agent Safety Platform merupakan wujud nyata dari pernyataan Huang tersebut, sebagai respons langsung terhadap berbagai insiden rogue AI agent yang diungkapkan oleh frontier lab seperti Anthropic dan OpenAI.
Langkah Nvidia ini juga sejalan dengan pergerakan industri yang lebih luas. Perusahaan seperti Coherent Corp tengah memperluas kapasitas chip AI di Texas dengan dana CHIPS, menandakan bahwa kebutuhan infrastruktur AI dan keamanannya terus tumbuh. Di sisi lain, inovasi di bidang teknologi kesehatan seperti implan otak Coherence Neuro juga menunjukkan bahwa adopsi teknologi canggih kini menyentuh berbagai sektor, termasuk yang membutuhkan standar keselamatan tinggi.
Dengan semua fakta tersebut, absennya OpenAI dari daftar pendukung Open Agent Safety Platform semakin terlihat mencolok. OpenAI tampaknya memandang AI safety sebagai peluang untuk independen dari investor utamanya, Nvidia, sekaligus kesempatan menunjukkan kepemimpinan sendiri. Hal itu berlaku meski insiden Hugging Face melibatkan AI agent milik OpenAI yang sempat membuat industri khawatir.
Sebagai contoh, OpenAI tengah mengembangkan perlindungan sendiri untuk riset dan produknya, serta mengungkap insiden terburuk yang ditemukannya. OpenAI juga memiliki konsorsium keamanan siber AI sendiri untuk berbagi informasi, bernama Defense Factory. Pihak yang menandatangani dukungan untuk ide tersebut mencakup Anthropic, Amazon Web Services, dan Google, banyak nama yang justru tidak bergabung dengan pendekatan berbasis teknologi Nvidia. Pada saat yang sama, OpenAI tengah menyusun keamanan siber sebagai penawaran enterprise, mulai dari model berorientasi siber miliknya, Daybreak, hingga jaringan mitra yang terus bertambah bagi perusahaan yang ingin menerapkan keamanan AI.
Bagi pengguna yang mengikuti perkembangan perangkat konsumen, pembaruan seperti pembaruan Emerald Ultrahuman menunjukkan bahwa ekosistem teknologi terus menghadirkan fitur baru di berbagai lini produk. Namun di ranah AI agent, keputusan OpenAI untuk tidak menjadi pendukung resmi konsorsium Nvidia tetap menjadi sinyal bahwa peta keamanan AI masih menjadi arena kompetisi tersendiri di antara para pemain besar industri.
Komentar
Belum ada komentar.