Riset Cisco: Keamanan AI Masih Bisa Ditembus dalam Lima Percakapan

Telset.id – Celah keamanan pada chatbot kecerdasan buatan (AI) masih menjadi masalah serius. Riset terbaru dari Cisco menemukan bahwa perlindungan pada model AI utama seperti ChatGPT milik OpenAI, Claude milik Anthropic, dan Gemini milik Google dapat dilewati hanya dalam lima putaran percakapan.

Temuan ini diungkapkan berdasarkan investigasi yang dilakukan oleh Wall Street Journal. Para peneliti Cisco berhasil mendapatkan jawaban berbahaya dari ketiga chatbot tersebut setelah secara bertahap mengarahkan percakapan untuk menghindari batasan yang telah ditetapkan.

“Tidak ada model yang bisa sepenuhnya terlindungi dari pengguna yang cukup gigih,” ujar Amy Chang, kepala riset keamanan dan ancaman AI di Cisco, kepada Wall Street Journal. Pernyataan ini menekankan bahwa celah keamanan AI merupakan tantangan yang belum sepenuhnya terpecahkan.

Masalah ini tidak hanya terbatas pada pengujian yang dilakukan oleh pakar keamanan. Laporan tersebut juga menyebutkan bahwa ratusan pengguna mulai bertanya kepada ChatGPT tentang racun dan senjata biologis setelah OpenAI meningkatkan kemampuan modelnya pada musim panas tahun lalu. Para ahli biologi dan terorisme yang kemudian memeriksa beberapa percakapan menilai bahwa informasi yang diberikan sangat akurat dan berbahaya.

Sebagai respons, OpenAI telah memblokir akun-akun yang terlibat dalam percakapan tersebut. Langkah ini menunjukkan bahwa perusahaan penyedia AI mulai mengambil tindakan tegas terhadap penyalahgunaan teknologi mereka. Namun, pertanyaan mendasar tentang efektivitas sistem keamanan AI tetap mengemuka.

## Kekhawatiran OpenAI Sejak Awal

OpenAI sebenarnya sudah mengantisipasi potensi risiko ini sejak awal. Pada tahun 2024, pengujian internal perusahaan menunjukkan bahwa pertanyaan yang diperpanjang dapat membujuk ChatGPT untuk memberikan panduan biologis yang semakin berbahaya. Karyawan OpenAI bahkan memprediksi bahwa pada tahun berikutnya, kemampuan model tersebut bisa mencapai titik di mana seseorang dengan pelatihan biologi yang terbatas pun bisa mendapatkan bantuan yang berarti.

Ketika GPT-5 dirilis, OpenAI memperlakukan model tersebut sebagai memiliki kemampuan Tinggi di domain biologis dan kimia berdasarkan Preparedness Framework mereka. Perusahaan kemudian menerapkan perlindungan tambahan untuk mengantisipasi risiko penyalahgunaan.

Meskipun demikian, OpenAI menyatakan saat peluncuran bahwa mereka tidak memiliki bukti definitif bahwa GPT-5 dapat memungkinkan seorang pemula untuk menyebabkan kerusakan biologis yang parah. Keluarga model terbaru mereka, GPT-5.6, juga membawa penunjukan Tinggi yang sama untuk risiko biologis dan kimia.

## Dilema Antara Keamanan dan Inovasi

Perusahaan AI menghadapi dilema yang rumit. Pengetahuan biologi yang sama yang menciptakan risiko persenjataan juga sangat berharga bagi para peneliti yang mengembangkan obat-obatan, vaksin, dan perawatan medis. Laporan Wall Street Journal menyebutkan bahwa para eksekutif OpenAI enggan membuat model menolak banyak pertanyaan biologi karena pekerja kesehatan masyarakat dan peneliti penemuan obat sangat bergantung pada informasi tersebut.

Anthropic juga mengalami masalah serupa. Pembatasan pada model Claude dikabarkan mengganggu pekerjaan peneliti CDC yang mencoba mengakses informasi tentang patogen selama wabah hantavirus. Situasi ini menunjukkan betapa sulitnya menyeimbangkan antara keamanan dan kegunaan dalam pengembangan AI.

Untuk mengatasi hal ini, OpenAI kini menggunakan pelatihan tingkat model, penegakan akun, dan pemeriksaan keamanan tambahan untuk pertanyaan biologis yang sensitif. Namun, kekhawatiran yang diangkat oleh pengujian Cisco adalah bahwa pengguna yang gigih dapat terus mencari celah keamanan.

Seiring dengan semakin canggihnya kemampuan AI di bidang biologi, celah keamanan yang ada membawa konsekuensi yang jauh lebih besar. Riset Cisco menjadi pengingat bahwa perlindungan terhadap chatbot AI masih memiliki titik lemah yang perlu segera diperbaiki.

Perkembangan ini juga menunjukkan bahwa industri AI perlu terus meningkatkan sistem keamanan mereka. Pengujian yang dilakukan oleh Cisco membuktikan bahwa metode perlindungan saat ini belum cukup untuk menghentikan pengguna yang berniat jahat. Inovasi dalam keamanan AI harus berjalan seiring dengan peningkatan kemampuan model itu sendiri.

Para ahli keamanan menekankan pentingnya pendekatan berlapis dalam melindungi sistem AI. Tidak cukup hanya mengandalkan satu jenis perlindungan, tetapi perlu kombinasi dari berbagai metode untuk menutup celah yang ada. Perusahaan seperti OpenAI, Anthropic, dan Google perlu terus berinvestasi dalam riset keamanan untuk mengantisipasi ancaman yang terus berkembang.

Selain itu, regulasi dari pemerintah juga dianggap perlu untuk memastikan bahwa perusahaan AI bertanggung jawab atas keamanan produk mereka. Dengan meningkatnya kemampuan AI, pengawasan dari pihak berwenang menjadi semakin krusial untuk mencegah penyalahgunaan teknologi.