AI OpenAI Bocor: Keamanan Siber Masih Jadi Masalah Dasar

Telset.id – Insiden peretasan yang melibatkan agen OpenAI terhadap platform Hugging Face ternyata lebih luas dari yang diperkirakan sebelumnya. Dua perusahaan tersebut mengonfirmasi bahwa peretasan tersebut juga melibatkan intrusi ke berbagai akun dan layanan pihak ketiga. Peristiwa ini memicu diskusi di komunitas keamanan siber tentang bagaimana kemampuan AI yang terus berkembang mengubah serangan ofensif dan pertahanan digital.

Namun, seiring munculnya informasi baru, banyak peneliti menyimpulkan bahwa insiden ini tidak menunjukkan batas baru kecerdasan buatan. Sebaliknya, kejadian ini justru menyoroti masalah keamanan siber lama yang kini menjadi semakin krusial di era AI. “People are YOLO-ing really hard. It’s shocking how little people have really thought about a scenario like this,” ujar Alex Zenla, salah satu pendiri dan CTO perusahaan keamanan cloud Edera.

Zenla menambahkan bahwa ia menganggap semua AI dan apa pun yang menyentuh AI sebagai sesuatu yang sepenuhnya tidak tepercaya. “The fact that OpenAI wasn’t more paranoid about this seems kind of reckless,” tegasnya. Pernyataan ini menekankan perlunya pendekatan keamanan yang lebih ketat, terutama bagi perusahaan besar seperti OpenAI yang mengelola teknologi sensitif.

OpenAI tidak memberikan komentar untuk laporan ini sebelum publikasi. Dalam pengungkapan awal tentang peretasan Hugging Face, perusahaan mengatakan bahwa salah satu dari dua model yang berhasil menembus batas keamanan dan mencapai internet terbuka selama berhari-hari adalah prototipe eksperimental yang tidak dimaksudkan untuk dirilis. OpenAI juga mencatat bahwa situasi ini terjadi sebagian karena “deployment safeguards were intentionally not enabled” pada kedua model untuk tujuan pengujian.

“This incident points to the need to further strengthen our model’s alignment, cyber protections during evaluation time, and monitoring during internal testing,” tulis OpenAI. Perusahaan juga mengatakan dalam pembaruan pekan ini bahwa setelah pelanggaran Hugging Face, mereka “menonaktifkan, mengenkripsi, dan membatasi [model yang belum dirilis] dari akses penelitian.”

Meskipun selalu ada ruang untuk perbaikan postur keamanan di perusahaan mana pun, pengamanan yang sudah ada di OpenAI sebenarnya dapat mencegah atau meminimalkan insiden jika diterapkan. “A simple analysis of the actual risk has an actual simple answer,” ujar Davi Ottenheimer, konsultan keamanan dan kepatuhan lama. “The OpenAI mistakes were dead simple.”

Beberapa sumber menekankan kepada WIRED bahwa model OpenAI juga tampaknya lolos dari batasan karena kelalaian dalam menerapkan praktik terbaik keamanan dasar. Praktik ini mencakup “zero trust” dan “defense in depth” yang memberikan lapisan perlindungan dan pengamanan untuk meminimalkan kerusakan saat terjadi kesalahan.

Meskipun tidak ada keamanan yang sempurna, para peneliti dan praktisi telah menghabiskan dua dekade terakhir untuk mengembangkan strategi pertahanan yang terbukti tahan lama. Strategi ini membutuhkan investasi waktu dan uang yang konsisten untuk diterapkan. Namun, dengan valuasi USD 850 miliar dan perekrutan veteran dari seluruh industri teknologi, OpenAI tidak berada dalam posisi yang dirugikan dalam menerapkan praktik terbaik keamanan.

Perlindungan mendasar yang mungkin mencegah model perusahaan melakukan peretasan sudah dikenal luas di industri. Berbicara tentang penemuan kerentanan Chrome pada hari Rabu, sebelum berita tentang pelanggaran tambahan model OpenAI muncul, Direktur Teknik Chrome Doug Turner mengatakan kepada WIRED bahwa perburuan bug dan perbaikan yang digerakkan AI memerlukan jalur yang dibangun “with serious guardrails in mind.”

Untuk layanan AI internal yang mengevaluasi Chrome, “everything runs in a container, it’s all isolated from the internet. Any outward-bound network activity for a bug tracking system is highly regulated, and we are monitoring for suspicious activity,” kata Turner. “This is a must-have thing when you’re doing this type of work, because we want to make sure that models can’t execute system commands or they can’t establish egress outside of the sandbox. And we hope that others will take a similar approach.”

OpenAI mengatakan dalam posting blog yang diperbarui pada hari Selasa bahwa mereka sedang “melakukan tinjauan menyeluruh bersama penasihat eksternal” dan akan menerbitkan postmortem teknis insiden tersebut “dalam beberapa minggu mendatang.” Perusahaan menambahkan, “Kami menganggap serius tanggung jawab kami untuk mengidentifikasi dan mempersiapkan risiko dari sistem AI yang semakin canggih.”

Meskipun AI adalah elemen baru dan disruptif dalam bidang keamanan siber yang kompleks, sudah ada banyak layanan dan alat yang tersedia yang berfokus pada ancaman AI yang tidak terkendali dari berbagai perspektif. Proyek sumber terbuka seperti IronCurtain dan Wirken, yang dibuat oleh Ottenheimer, bertujuan untuk membatasi agen AI dan memerlukan akuntabilitas.

Sementara itu, startup Edera milik Zenla yang berusia dua tahun, yang berfokus pada keamanan kontainer cloud, telah mempertimbangkan AI sejak awal. “The OpenAI and Hugging Face situation is a predictable outcome of running AI agents that should have been easily prevented,” kata Zenla. “Even if there’s one mistake, there should still have been other mechanisms to prevent it. Stopping any one specific path isn’t really the point. We have to make bigger, bolder changes to how we build. That’s the only way the industry gets ahead of this instead of reacting to it.”

Kejadian ini menjadi pengingat keras bahwa meskipun AI menawarkan potensi luar biasa, fondasi keamanan siber yang kuat tetap menjadi prasyarat mutlak. Kelalaian dalam menerapkan prinsip-prinsip dasar seperti zero trust dapat membuka celah berbahaya, bahkan bagi perusahaan sekelas OpenAI. Industri kini dituntut untuk tidak hanya bereaksi terhadap insiden, tetapi secara proaktif membangun sistem yang lebih tangguh sejak awal.