Peneliti AS-China Sepakat Cegah Momen Chernobyl AI

Telset.id – Para peneliti AI dari Amerika Serikat dan China menyerukan kerja sama global untuk mencegah perkembangan teknologi kecerdasan buatan yang tidak terkendali. Mereka khawatir hal ini bisa memicu bencana yang tak terbayangkan dan merusak persepsi publik terhadap AI secara permanen.

Kekhawatiran ini disuarakan oleh Stephen Casper, seorang ilmuwan komputer di MIT yang berbicara di konferensi AI besar di Beijing bulan ini. “Satu hal yang hampir semua orang di bidang AI setujui saat ini adalah bahwa AI tidak perlu momen Chernobyl,” ujarnya kepada Wired. Casper tidak menjelaskan lebih lanjut analogi ini, tetapi dengan menyebutkan bencana nuklir terkenal itu, jelas bahwa ketakutannya bukan hanya soal bencana itu sendiri. Dampaknya bisa mencoreng persepsi publik terhadap AI dan menghambat perkembangannya, seperti bagaimana bencana Chernobyl terus membayangi energi nuklir secara keseluruhan.

Berbagai skenario bencana AI sangat bervariasi, mulai dari skenario ala Skynet hingga pengangguran massal. Namun, belakangan ini, seiring dengan jelasnya bahwa salah satu aplikasi praktis AI adalah menghasilkan kode, para ahli mulai membunyikan alarm tentang potensi AI untuk mengganggu keamanan siber. Peretas dapat dengan mudah menyalahgunakan agen AI dan alat coding untuk melakukan serangan siber yang dahsyat, baik meningkatkan skala serangan maupun menurunkan keterampilan yang dibutuhkan untuk melakukannya.

Narasi ini sebagian didorong oleh perusahaan AI itu sendiri, seperti ketika Anthropic mengumumkan, dan kemudian menolak untuk merilis secara publik, model Claude Mythos-nya. Model tersebut diklaim sangat kuat sehingga dapat dengan mudah membobol “setiap sistem operasi utama dan setiap browser web utama.”

Risiko ini semakin diperdalam oleh munculnya model AI open-source dan open-weight yang gratis digunakan dan disukai oleh para peneliti karena transparansinya. Namun, model-model ini tidak memiliki pengawasan yang dimiliki model AI komersial terkemuka. Sebuah sumber di salah satu perusahaan AI terkemuka China mengatakan kepada Wired bahwa masalah keamanan adalah salah satu alasan model canggih di China tidak lagi dirilis sebagai open source.

Lin Yun, seorang profesor di Shanghai Jiao Tong University, memperingatkan bahwa ia memperkirakan peretas akan mendapatkan keuntungan menggunakan AI dalam jangka pendek. Namun, dalam jangka panjang, AI juga dapat digunakan untuk memperkuat keamanan siber, yang menggarisbawahi perlunya kerja sama global. “Jika berbagai negara memahami risiko dengan cara yang sama, akan lebih mudah untuk mengembangkan prinsip keselamatan bersama dan standar teknis,” kata Yun kepada Wired. “Kuncinya adalah menemukan area di mana berbagi dapat mengurangi risiko sistemik tanpa mengekspos detail operasional yang sensitif.”

Kerja sama dalam masalah ini antara dua rival geopolitik mungkin tampak sulit, terutama karena AS dan China juga merupakan pemimpin mutlak dalam AI. Namun, Casper membandingkan situasi saat ini dengan bagaimana AS dan Uni Soviet bekerja untuk mengekang ancaman nuklir, meskipun mereka memperbesar persediaan nuklir mereka sendiri.

Ancaman AI terhadap keamanan siber bukanlah isu yang berdiri sendiri. Dalam studi terbaru, AI gagal total dalam menganalisis data olahraga, menunjukkan bahwa kecerdasan buatan masih memiliki keterbatasan signifikan. Temuan ini menjadi pengingat bahwa meskipun AI memiliki potensi besar, teknologi ini belum sempurna dan rentan terhadap kesalahan.

Kekhawatiran tentang momen Chernobyl AI ini muncul di tengah meningkatnya kemampuan AI untuk berkembang secara mandiri. Sebuah studi baru-baru ini mengungkapkan bahwa AI bisa menggandakan diri tanpa bantuan manusia, sebuah temuan yang semakin memperkuat urgensi untuk mengembangkan kerangka kerja keamanan yang ketat. Jika AI dapat bereproduksi sendiri, risiko penyalahgunaan dan kehilangan kendali menjadi jauh lebih besar.

Di sisi lain, penelitian juga menunjukkan bahwa AI masih rentan terhadap informasi palsu. Sebuah studi menemukan bahwa AI tertipu penyakit fiktif yang dimasukkan ke dalam jurnal ilmiah palsu. Kerentanan ini menunjukkan bahwa sistem AI dapat dengan mudah dimanipulasi, yang menjadi ancaman serius jika teknologi ini digunakan untuk aplikasi kritis seperti diagnosis medis atau keamanan nasional.

Seruan untuk kerja sama global ini datang di saat yang kritis. Dengan AS dan China sebagai pemimpin dalam pengembangan AI, kolaborasi antara kedua negara sangat penting untuk menetapkan standar keamanan global. Tanpa kerja sama, risiko terjadinya insiden besar yang bisa merusak kepercayaan publik terhadap AI akan semakin tinggi.

Para peneliti menekankan bahwa pencegahan lebih baik daripada penanganan bencana. Dengan belajar dari sejarah, seperti dampak bencana Chernobyl terhadap industri nuklir, mereka berharap komunitas AI global dapat mengambil langkah proaktif untuk memastikan bahwa teknologi ini dikembangkan dengan aman dan bertanggung jawab.

Kesimpulannya, kekhawatiran akan terjadinya momen Chernobyl AI mendorong para peneliti dari dua negara adidaya teknologi untuk bersatu. Mereka percaya bahwa hanya melalui kerja sama global, risiko bencana AI dapat diminimalkan dan potensi positif teknologi ini dapat dimaksimalkan untuk kepentingan umat manusia.