China Sebut Seruan Perlambatan AI Sebagai Fearmongering

Telset.id – Juru bicara Kementerian Luar Negeri China, Guo Jiakun, menyebut seruan para miliarder teknologi Amerika Serikat untuk memperlambat pengembangan kecerdasan buatan atau AI sebagai “fearmongering” atau penyebaran rasa takut. Pernyataan itu disampaikan dalam konferensi pers rutin Kementerian Luar Negeri China, menanggapi pertanyaan jurnalis Reuters mengenai sikap resmi Beijing atas desakan kalangan teknologi AS agar laju pengembangan AI ditahan. Sikap China ini menjadi penanda penting bahwa perdebatan global soal perlambatan AI tidak berjalan satu arah, dan Beijing memilih tidak mengikuti arus yang dibangun oleh para CEO perusahaan AI terbesar dunia.

Menurut Guo, AI merupakan teknologi yang berdampak besar bagi kesejahteraan seluruh umat manusia. Karena itu, ia menilai semua pihak seharusnya bersama-sama mendorong pengembangan AI yang terbuka dan inklusif untuk kebaikan bersama. Guo menegaskan bahwa fearmongering, konfrontasi, dan persaingan yang saling menjatuhkan hanya akan menghambat upaya tata kelola AI global yang sehat, dan hal itu tidak menguntungkan siapa pun.

Seruan perlambatan AI sendiri datang dari sejumlah nama besar industri teknologi AS. CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, salah satu pendiri Google DeepMind Demis Hassabis, dan kepala SpaceX Elon Musk dilaporkan secara longgar menyepakati perlambatan pengembangan AI pada akhir pekan. Mereka menyatakan tujuan untuk “memperlambat laju di garis depan” dan ikut menandatangani proposal yang mencakup penyertaan auditor pihak ketiga, regulasi laboratorium domestik, serta kesepakatan perlambatan global. Proposal tersebut dijabarkan Amodei dalam sebuah esai, dan disebut mengusung perubahan yang telah lama diserukan para advokat keselamatan AI.

Namun, kesepakatan itu tidak lepas dari kecurigaan. Para skeptis menilai para pemimpin AI hanya ingin menghentikan calon pesaing, melumpuhkan gerakan open-source, dan menghindari pengamanan hukum yang nyata. Sebagian bahkan menyebutnya sebagai “kartel”. Sejumlah sumber di industri menyatakan kebenarannya lebih rumit dari itu. Mereka menilai tiga langkah dalam proposal Amodei bisa menjadi pengganti regulasi, meskipun di bawah pemerintahan Trump regulasi substansial memang tidak mungkin terjadi.

Di sisi lain, sejumlah pakar menilai para pemimpin AI bukan pihak terbaik untuk memimpin isu yang semakin penting ini. Nick Reese, profesor tambahan di New York University sekaligus mantan direktur kebijakan teknologi baru di Departemen Keamanan Dalam Negeri AS, mengatakan industri secara keseluruhan membutuhkan juara baru. Menurut Reese, selama ini figur seperti Dario Amodei, Sam Altman, dan Elon Musk dianggap sebagai orang-orang yang paling dekat dengan masalah dan bekerja setiap hari, tetapi ia menilai belum pernah ada visi realistis tentang apa yang sebenarnya sedang dibangun.

Kekhawatiran soal laju AI sendiri telah meningkat selama berbulan-bulan. Pemicu utamanya adalah pengungkapan bahwa kawanan agen berada di balik peretasan yang terjadi tepat di bawah pengawasan laboratorium AI terdepan, Anthropic dan OpenAI. Laporan dari kedua perusahaan itu ikut menambah kekhawatiran, begitu pula pengunduran diri peneliti Anthropic, Jacob Coxon, yang mengunggah surat terbuka berisi alasannya. Dalam surat itu, Coxon menulis bahwa orang-orang yang membangun AI dengan sungguh-sungguh percaya teknologi itu bisa membunuh semua orang pada akhir dekade ini. Ia menilai OpenAI maupun Anthropic tidak bertindak bertanggung jawab dan justru berlomba menuju superinteligensi yang memperbaiki dirinya sendiri sambil mempertaruhkan hidup banyak orang.

Surat Coxon disebut telah dilihat lebih dari 170 juta kali di X, dan dirinya serta kisahnya menjadi bahan pemberitaan di surat kabar dan televisi. Namun bagi sebagian besar peneliti keselamatan AI dan pekerja nonprofit AI, hal itu hanya menarik perhatian pada isu yang sudah lama dibahas. Daniel Kokotajlo, mantan karyawan OpenAI yang kini memimpin AI Futures Project, sebuah nonprofit riset AI, menegaskan bahwa banyak orang menganggap ini sebagai ide Dario atau datang dari para CEO, padahal itu keliru. Menurutnya, orang-orang di luar perusahaan telah menyerukan hal ini selama bertahun-tahun. Ia menyebut ada korus suara yang tumbuh meminta agar superinteligensi tidak segera dibangun karena dunia belum siap dan laju AI perlu diperlambat.

Kokotajlo menyatakan bahwa setelah bertahun-tahun orang-orang menuntut hal itu, termasuk lebih dari 1.000 karyawan laboratorium AI yang menandatangani surat terbuka pada Juli yang menyerukan perlambatan pengembangan AI setelah insiden OpenAI-Hugging Face, para CEO kini menunduk pada tekanan tersebut sekaligus mengklaim kreditnya, meski tidak berhak. Sejumlah sumber menyampaikan kepada The Verge bahwa kesepakatan lisan para pemimpin AI itu merupakan langkah ke arah yang benar. Reese menilai hal itu bukan sekadar angin lalu. CEO Apollo Research Marius Hobbhahn menyebutnya ide bagus dan salah satu hal terbaik untuk keselamatan dalam waktu lama jika benar-benar terjadi. Tyler Johnston dari The Midas Project menyebutnya tanda baik, sementara CEO Redwood Research Buck Shlegeris menyebutnya kabar baik dan mengaku optimistis secara hati-hati.

Semua pihak yang dihubungi sepakat masih banyak pekerjaan yang harus dilakukan untuk membuat komitmen lisan itu menjadi kenyataan, terutama menjadikannya kesepakatan yang kuat. Banyak yang masih mempertanyakan motivasi para pemimpin AI. Industri teknologi yang lebih besar telah bertahun-tahun mendahului regulasi dengan melobi aturan yang mereka inginkan atau menjanjikan pengaturan mandiri. Platform besar mengusulkan kebijakan yang bisa lebih membebani pesaing kecil, dengan bahasa altruistis untuk membenarkan tujuan yang menguntungkan diri sendiri. Mereka juga dituduh melakukan safety-washing, atau membuat perubahan tanpa makna yang memberi kesan ada pengamanan nyata. Kerangka keselamatan sukarela laboratorium AI pun telah dikritik selama bertahun-tahun.

Beberapa sumber menilai kekhawatiran soal safety-washing itu valid. Kokotajlo mengatakan ada kekhawatiran serius bahwa mereka sebenarnya tidak akan memperlambat, dan yang terjadi hanyalah mendatangkan auditor eksternal serta menumpuk dokumen keselamatan, sebagian memang bagus, tetapi pada akhirnya tidak akan memperlambat mereka secara signifikan. Reese membandingkan langkah ini dengan taktik platform media sosial satu dekade lalu, ketika perusahaan mulai menyerukan tindakan regulasi untuk mendahului undang-undang yang kurang menguntungkan. Untuk industri AI, Reese menilai palu regulasi mungkin tidak datang pada pemerintahan ini, tetapi jika ada pemerintahan Demokrat setelah pemilu berikutnya, peluangnya sangat besar.

Regulasi semacam itu dinilai vital oleh Sacha Haworth, direktur eksekutif Tech Oversight Project. Ia menyebut kerangka sukarela pada dasarnya adalah regulatory capture dan menegaskan tidak seharusnya membiarkan serigala menjalankan kandang ayam. Menurutnya, ini bukan kesempatan bagi Kongres untuk sekali lagi mengalihdayakan tanggung jawab ke industri. Daniel Lobo-Lewis, salah satu pendiri Political Integrity Project, menilai regulasi sukarela kemungkinan akan bernasib seperti Oversight Board milik Meta yang nyaris tidak bergigi. Sebagian besar pihak juga percaya perusahaan tidak berada dalam bahaya regulasi dalam waktu dekat, selain periode peninjauan pra-rilis model yang telah disepakati laboratorium AI di bawah pemerintahan Trump.

Presiden Trump pada Senin menulis bahwa satu-satunya kontrol atau “guardrail” yang dibutuhkan AI adalah seorang PRESIDEN yang KUAT DAN CERDAS, dan Amerika Serikat memilikinya. Ia juga menelepon CEO Nvidia Jensen Huang saat Huang sedang berada di atas panggung sebuah konferensi. Trump kepada kerumunan melalui pengeras suara menyebut kekhawatiran terbaru soal AI sebagai “hoax” dan menegaskan robot tidak akan mengambil alih. Terkait kekhawatiran bahwa regulasi bisa menahan perusahaan lain atau pengembang open-source, seruan perlambatan hampir seluruhnya diarahkan pada laboratorium AI frontier besar yang didefinisikan dengan metrik ukuran tertentu.

Tanpa regulasi AI dari pemerintah, opsi terbaik mungkin mendorong perusahaan ke kesepakatan yang segera, terukur, dan dapat ditegakkan. AI Futures Project milik Kokotajlo, misalnya, mengusulkan laboratorium AI memberi auditor akses ke anggaran komputasi mereka dan berjanji menurunkan anggaran komputasi untuk riset secara signifikan, yang kemudian memperlambat kemajuan AI dan memberi laboratorium lain kesempatan mengejar. Esai Amodei sendiri telah menyerukan agar laboratorium AI mengizinkan auditor pihak ketiga eksternal seperti METR, Apollo, dan Redwood Research untuk tertanam di organisasi mereka sampai batas tertentu dan berpotensi menandai serta membocorkan temuan bermasalah.

Tantangan terbesar dalam perlambatan AI bisa diringkas dalam satu kata: China. Para pemimpin AI dan politisi lama menempatkan China sebagai alasan kemajuan AI AS tidak boleh melambat, karena tidak peduli seberapa berbahaya teknologinya, mereka lebih memilih teknologi itu di tangan AS daripada China, dan China tidak akan menginjak rem. Lobo-Lewis membandingkan ketakutan terhadap China dengan ketakutan akan celah misil pada era Perang Dingin. Shlegeris dari Redwood Research menilai tidak ada kepentingan terbaik bagi pemerintah AS maupun China untuk mengejar pengembangan AI dengan cara yang sembrono, dan menambahkan bahwa koordinasi internasional pada level itu bukan hal yang belum pernah terjadi.

Johnston menilai orang-orang terlalu menganggap remeh bahwa China tidak akan bekerja sama. Menurutnya, isu ini begitu serius dan luas sehingga koordinasi menjadi kepentingan semua pihak, sama seperti koordinasi AS dan Rusia dalam de-proliferasi nuklir. Pada Senin, juru bicara Kementerian Luar Negeri China Guo Jiakun memang menolak seruan perlambatan dan menyebutnya fearmongering. Johnston dan Shlegeris sama-sama menilai bahwa bahkan tanpa kerja sama China, koordinasi AS tetap vital. Bagi Haworth dari Tech Oversight Project, perlambatan ini menjadi peluang untuk memosisikan diri sebagai kompas bagi pengembangan dan pemanfaatan teknologi AI. Ia melihat argumen sebaliknya sebagai bagian dari taktik yang familier, dan menyebut China selalu diangkat sebagai bogeyman setiap kali sebuah industri ingin lepas dari pengawasan.

Isu yang mendasari semua kepanikan terbaru adalah tonggak yang dikenal sebagai recursive self-improvement atau RSI. RSI merujuk pada titik potensial ketika model AI dapat melatih, memajukan, dan menciptakan versi baru dari dirinya sendiri tanpa keterlibatan manusia. Anthropic menyatakan titik ini bisa datang paling cepat pada awal 2027, dan kepala ilmuwan OpenAI menulis awal bulan itu bahwa OpenAI mengarahkan banyak sumber daya untuk mencapai tujuan tersebut. Semakin banyak insinyur dan peneliti di industri AI khawatir bahwa RSI mendahului sejumlah masalah AI baru yang lebih serius, termasuk insiden keamanan siber yang lebih parah dan berdampak lebih dalam pada masyarakat luas.

Amodei menyebut RSI sebagai faktor utama keputusannya menyerukan perlambatan. Ia menulis bahwa sejak sekitar musim panas, AI telah maju jauh lebih cepat. Dalam esainya, Amodei menyatakan RSI mulai terjadi di seluruh industri, termasuk di Anthropic, dan jika dibiarkan tanpa kendali bisa melampaui kemampuan manusia untuk memahami serta mengendalikan sistem tersebut. Karena itu, ia menilai RSI harus dikejar dengan sangat hati-hati, jika memang harus dikejar. Amodei mengusulkan penerapan semacam “batas kecepatan” pada laju RSI dan membandingkannya dengan pembatasan jumlah misil.

Dalam unggahan pengunduran dirinya dari Anthropic, Jacob Coxon memperingatkan tentang sistem superhuman yang bisa meretas apa pun, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuatan dan sumber daya nyata. Banyak peneliti lain di laboratorium AI terdepan menggemakan kekhawatiran itu. Peneliti OpenAI Jasmine Wang menulis bahwa sulit melebih-lebihkan betapa berbahayanya mempercepat laju menuju RSI. Vishal Maini, mantan karyawan Google DeepMind, menyebut RSI kini begitu dekat sehingga tidak ada opsi lain yang masuk akal.

Ketakutan akan RSI dengan mudah berubah menjadi apokaliptik. Peneliti Anthropic Samuel Marks menulis di X bahwa pengembang AI percaya teknologi mereka bisa menyebabkan kepunahan manusia atau hasil buruk serupa, dan hal itu bisa terjadi dalam beberapa tahun ke depan. Ia menambahkan bahwa semakin senior seorang karyawan, semakin besar kekhawatirannya. Peneliti sekaligus pemimpin tim Anthropic, Evan Hubinger, menulis di X bahwa Coxon benar dan mereka sungguh-sungguh percaya AI bisa membunuh semua manusia, dengan peluang lebih dari 10 persen dalam satu dekade ke depan. Alex Turner, mantan karyawan Google DeepMind, menulis bahwa banyak peneliti percaya mereka sedang membangun sesuatu yang bisa membunuh semua orang di planet ini, dan pekerjaan hariannya adalah memikirkan cara menghentikannya.

Peneliti OpenAI Micah Carroll menulis bahwa keyakinan Coxon merupakan posisi lintas partisan dengan tim riset di semua perusahaan AI frontier, dan mereka semua percaya bahwa pengembangan AI seperti biasa menimbulkan risiko katastrofik yang tidak dapat diterima. Namun Carroll menambahkan, risiko katastrofik itu tidak boleh dihiperstisi menjadi kenyataan, karena bisa sangat dikurangi melalui persyaratan keselamatan yang bergigi, koordinasi internasional, dan konsensus untuk tidak membangun superinteligensi buatan kecuali ada kemajuan keselamatan yang cukup untuk membuat semua pihak yakin. Koordinasi internasional semacam itulah yang kini diserukan para pemimpin AI dan publik luas.

Reese dari NYU menutup dengan catatan bahwa dunia belum pernah berada dalam situasi di mana benar-benar memahami apa yang sedang dituju terkait AI. Menurutnya, selama ini ada keadaan akhir yang amorf dan tidak terdefinisi, yang tidak benar-benar dipahami, tetapi harus dicapai untuk mengalahkan China. Ia menilai sangat sulit berlomba ketika jalur, garis finis, bahkan keberadaan garis finis itu sendiri tidak dipahami. Sementara itu, ekspansi infrastruktur AI terus berjalan, seperti langkah AWS Tambah GPU untuk kebutuhan komputasi di 2027-2028. Di sisi lain, China juga terus memperketat pengawasan teknologi AI, termasuk melalui langkah aturan deepfake AI yang diterapkan otoritasnya.