Telset.id – Peringatan Bill Gates bahwa AI bisa menjadi “cukup kuat” untuk menyebabkan “satu miliar kematian” memicu diskusi serius di kalangan pakar keamanan siber. David Linthicum, pakar global AI, cloud, dan keamanan siber, menilai skenario kiamat AI tersebut secara teknis mungkin terjadi dalam teori, tetapi tidak realistis saat ini tanpa banyak keputusan buruk yang dibuat manusia di sepanjang jalan.
Pernyataan Gates itu sendiri menjadi sorotan karena datang dari salah satu figur teknologi paling berpengaruh di dunia. Linthicum pun diminta mengomentari kemungkinan prediksi tersebut menjadi kenyataan, termasuk ancaman AI yang paling perlu diwaspadai saat ini hingga potensi senjata biologis yang dikembangkan AI. Isu kesiapan pemerintah menghadapi dampak AI juga pernah menjadi perhatian Gates dalam pembahasannya mengenai dampak AI.
Skenario Satu Miliar Kematian Dinilai Tidak Realistis
Menurut Linthicum, agar AI dapat menyebabkan bencana sebesar itu, sistem tersebut harus memiliki kendali atas infrastruktur kritis, senjata, rantai pasok, atau sistem biologis, ditambah kemampuan bertindak tanpa campur tangan manusia. Kondisi itu membutuhkan kegagalan integrasi berskala besar, tata kelola yang buruk, dan penyalahgunaan yang disengaja.
“Secara teknis mungkin dalam teori, tetapi tidak realistis saat ini tanpa manusia membuat banyak keputusan buruk di sepanjang jalan,” kata Linthicum seperti dikutip dari Tom’s Guide.
Ia menduga Gates mungkin merujuk pada AI yang jatuh ke tangan teroris atau negara-negara yang tidak stabil. Namun menurut Linthicum, lompatan dari gagasan tersebut menuju bencana nyata sangat besar dan sangat kecil kemungkinannya terjadi.
Ancaman AI yang Nyata Hari Ini
Linthicum memisahkan dengan jelas antara ancaman yang sudah nyata dan skenario yang masih hipotetis. Ia menyebut penipuan, deepfake, kebocoran data, otomasi yang buruk, keputusan bias, penyalahgunaan siber, serta perusahaan yang menerapkan AI tanpa kendali sebagai risiko yang sudah terjadi sekarang.
Ia bahkan menyinggung langkah OpenAI yang baru-baru ini melakukan serangan terhadap Hugging Face sebagai contoh perusahaan yang menerapkan AI tanpa kontrol. Sementara itu, sistem supercerdas yang secara mandiri memusnahkan umat manusia menurutnya masih sebagian besar bersifat hipotetis.
“Risiko praktisnya bukan AI sihir; melainkan AI yang direkayasa dengan buruk dan terhubung ke sistem bisnis dan pemerintah yang nyata. Sebagian besar yang saya takutkan adalah AI di tangan orang yang tidak kompeten,” ujar Linthicum.
Ketika AI agent semakin otonom dan mampu mengambil tindakan atas nama pengguna, Linthicum menekankan pentingnya menjaga kendali manusia. Safeguard teknis yang ia sebut meliputi pembatasan izin, isolasi sistem, persetujuan manusia untuk tindakan berisiko tinggi, pencatatan semua aktivitas, pengujian berkelanjutan, dan kontrol akses berbasis kebijakan.
Menurutnya, AI agent tidak boleh mendapatkan kredensial luas atau akses API tanpa pengawasan. “Safeguard-nya adalah arsitektur: hak istimewa paling minimal, pemantauan, rollback, dan pengurungan. Percayai sistem hanya sejauh Anda bisa membatasinya,” jelasnya.
Ia menambahkan, sebagian besar masalah yang mengkhawatirkan saat ini adalah kesalahan konfigurasi atau kesalahpahaman. “Ancaman terbesar bukanlah AI; melainkan manusia yang tidak tahu cara menggunakannya.”
Kill Switch Tidak Cukup untuk Mencegah Bencana
Banyak pihak membicarakan pemberian kill switch pada AI canggih. Linthicum menilai mekanisme itu tidak cukup untuk mencegah bencana terkait AI. Kill switch hanya membantu jika seseorang tahu kapan harus menggunakannya, bisa menjangkaunya, dan kerusakan belum terjadi.
Desain yang lebih baik, menurutnya, mencakup kontrol berlapis, circuit breaker, pembatasan laju, sandboxing, alur kerja persetujuan, jejak audit, red-teaming, dan default yang aman. “Keamanan harus direkayasa di seluruh sistem, bukan ditempelkan di akhir. Kill switch mungkin membuat orang merasa nyaman, tetapi tidak melakukan apa pun untuk keselamatan,” tegas Linthicum.
Terkait perubahan keseimbangan antara penyerang dan defender, ia menyebut AI menurunkan biaya serangan dan meningkatkan volumenya. Phishing, kloning suara, faktur palsu, dan penyelidikan kerentanan otomatis menjadi lebih mudah dan trennya naik. Defender juga membutuhkan AI, tetapi dasar-dasar keamanan tetap penting: autentikasi multifaktor, verifikasi callback, akses zero-trust, patching, backup, pelatihan karyawan, dan pemeriksaan identitas yang kuat.
“Anggap konten yang meyakinkan bisa saja palsu. Kita hanya perlu menjadi lebih cerdas dalam mengenali dan mempertahankannya,” ujarnya. Linthicum juga menyinggung soal ancaman bagi pengguna yang muncul seiring meningkatnya risiko siber.
Senjata Biologis dan Peta Jalan AI Aman
Mengenai kekhawatiran bahwa AI dapat membantu orang merancang senjata biologis, Linthicum memisahkan mana yang masuk akal dan mana yang masih spekulatif. AI dapat membantu merangkum biologi, mengoptimalkan alur kerja, dan menurunkan hambatan pengetahuan. Itu masuk akal.
Namun, kemampuan sepenuhnya bagi amatir untuk menciptakan senjata biologis dengan korban massal tetap spekulatif karena kapabilitas wet-lab, material, pengujian, dan pengiriman sangat sulit dilakukan. “Alat dan bahannya sebagian besar tidak tersedia,” katanya.
Safeguard yang ia sarankan mencakup penyaringan model, akses terkontrol ke protokol berbahaya, verifikasi pesanan laboratorium, pemantauan, dan standar biosekuriti yang lebih kuat. “Kita bisa tahu ketika seseorang menggunakan LLM untuk tujuan buruk, dan kita bisa menolak penggunaan serta melaporkannya. Kita perlu terus melakukan itu.”
Untuk peta jalan lima tahun ke depan, Linthicum memprioritaskan peran pemerintah, pengembang AI, dan pengguna. Pemerintah harus menetapkan aturan berbasis risiko dan tanggung jawab hukum. Pengembang harus membangun sistem yang aman, teramati, teruji, dengan pengawasan manusia. Perusahaan harus menginventarisasi penggunaan AI dan mengendalikan akses data. Pengguna harus memverifikasi identitas dan melindungi akun.
“Kemajuan terlihat dari lebih sedikitnya pelanggaran yang dimungkinkan AI, audit yang lebih baik, standar yang dapat ditegakkan, pelaporan insiden yang transparan, dan sistem yang gagal dengan aman alih-alih gagal dengan berisik,” pungkasnya. Isu tata kelola AI ini juga sejalan dengan pembahasan mengenai investasi AI giants dalam membangun kapabilitas yang lebih terkontrol.
[ META_DESCRIPTION]
Bill Gates memperingatkan AI bisa picu satu miliar kematian. Pakar keamanan siber David Linthicum menilai skenario itu tidak realistis dan sebut ancaman AI yang nyata.
Komentar
Belum ada komentar.