Telset.id – Empat chatbot paling populer—ChatGPT, Claude, Gemini, dan Grok—terbukti mampu menghasilkan informasi yang dapat membantu perencanaan serangan teroris dan destabilisasi infrastruktur kritis hanya dalam waktu 12 jam. Temuan Government Accountability Office (GAO) Amerika Serikat ini memicu Senator Maggie Hassan (Demokrat-New Hampshire) menyiapkan hearing federal untuk mendesak Kongres bertindak cepat sebelum insiden serius terjadi.
Laporan setebal 61 halaman tersebut merupakan hasil pengujian GAO atas permintaan Senator Maggie Hassan terhadap empat alat AI paling populer. Hasilnya, setiap AI tool mampu menghasilkan informasi yang bisa membantu seseorang merencanakan serangan teroris dan mendestabilisasi infrastruktur kritis dalam rentang waktu hanya 12 jam.
Pada awalnya, keempat chatbot menunjukkan pembatasan keamanan khas masing-masing. Namun, dalam pengujian yang diperluas, sistem AI tersebut akhirnya menghasilkan informasi yang berpotensi berbahaya. Setiap sistem AI menyoroti data tentang target potensial, lokasi, peralatan yang sesuai untuk digunakan dalam serangan, serta metode yang bisa diterapkan—informasi yang dapat memberi individu dan kelompok berbahaya taktik untuk melancarkan serangan mereka.

Respons OpenAI, Google, dan Peringatan GTIG
GAO menegaskan bahwa seiring kemampuan AI berkembang, penyedia AI akan terus menyempurnakan perlindungan mereka. Namun, dalam kondisi saat ini, teknologi tersebut berpotensi berbahaya dan penyalahgunaannya menjadi risiko yang meningkat bagi keamanan nasional dan ekonomi.
Masing-masing perusahaan di balik chatbot—OpenAI, Anthropic, Google, dan SpaceXAI—memberikan respons atas pengujian model mereka dalam laporan yang sama. Keempat perusahaan berupaya menegaskan kembali bahwa mereka terus bekerja meningkatkan perlindungan model dan menguji sistem mereka sendiri secara berkelanjutan.
Dalam komentar terpisah kepada ABC News, juru bicara OpenAI menekankan bahwa pengujian GAO terhadap ChatGPT dilakukan pada model lama, sementara model terbaru mereka diklaim lebih aman. “Meskipun temuan studi tersebut mengkhawatirkan, pengujian berlangsung beberapa bulan lalu pada versi ChatGPT yang lebih lama, dan kami telah melakukan perbaikan keamanan yang cukup besar sejak saat itu, termasuk dengan keluarga model GPT-6 kami,” ujar juru bicara tersebut. “Kami menguji perlindungan kami secara ketat secara internal dan dengan pakar eksternal, serta menggunakan pemantauan, tinjauan manusia, dan penegakan aturan untuk mengidentifikasi dan menangani penyalahgunaan serta memperkuat perlindungan kami.”
Google juga merilis laporan sendiri yang menyinggung bahaya yang melekat pada model AI otonom. Berdasarkan temuan dalam laporan “GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold”, tingkat ancaman terkait kemungkinan aktor jahat menggunakan model AI otonom telah meningkat. Google Threat Intelligence Group (GTIG) menyatakan bahwa mempertahankan diri terhadap ancaman berkecepatan mesin dengan kecepatan manusia bukanlah hal yang layak. Karena itu, GTIG membantu para defender merancang ulang keamanan di era agentic melalui Google AI Threat Defense, yang menggabungkan Gemini dan model frontier lainnya, konteks dan prioritisasi Wiz, patching otomatis CodeMender, serta keahlian Mandiant untuk terus menemukan dan memperbaiki celah sebelum penyerang mengeksploitasinya.
Baca Juga:
Desakan Hassan agar Kongres Segera Bertindak
Dalam siaran persnya, Hassan menyerukan agar Kongres segera mengambil tindakan dan membantunya menangani ancaman yang dapat ditimbulkan platform AI terhadap keselamatan publik dan infrastruktur kritis. Ia memperingatkan bahwa tanpa regulasi, pertanyaan yang tersisa hanyalah soal waktu sebelum aktor jahat menggunakan AI untuk merencanakan dan melancarkan serangan besar.
“Jika Kongres tidak bertindak, ini adalah pertanyaan tentang kapan—bukan apakah—aktor jahat akan menggunakan AI untuk merencanakan dan melaksanakan serangan besar,” tegas Hassan. “Kongres harus segera mengambil dan mengesahkan undang-undang untuk mengatasi ancaman keamanan AI. Untuk itu, di Kongres baru, salah satu hearing pertama Komite Homeland Security and Governmental Affairs akan fokus pada risiko yang ditimbulkan AI terhadap keamanan dalam negeri dan infrastruktur kritis kami, dan komite kami akan memprioritaskan pengembangan undang-undang untuk mengatasi ancaman tersebut.”
Tekanan dari Hassan ini menjadi bagian dari gelombang perhatian legislatif terhadap tata kelola AI di AS. Sebelumnya, sejumlah senator juga menyoroti isu serupa, mulai dari pengawasan chip AI hingga risiko privasi perangkat wearable berbasis AI seperti yang terlihat dalam sorotan terhadap kacamata AI Meta.
Laporan GAO dan peringatan GTIG menempatkan penyalahgunaan model AI otonom sebagai risiko nyata bagi keamanan nasional dan ekonomi. Bagi pengguna maupun organisasi yang memanfaatkan ChatGPT, Claude, Gemini, atau Grok, temuan ini menegaskan bahwa pembatasan keamanan pada tiap model masih terus diuji dan disempurnakan oleh para penyedianya—sementara desakan regulasi dari Kongres AS masih menunggu tindak lanjut.






Komentar
Belum ada komentar.