Anthropic Bantah Dukung Larangan Model AI Open-Weight China

Telset.id – CEO dan founder Anthropic, Dario Amodei, secara tegas membantah tudingan bahwa perusahaannya mendukung upaya pemerintah AS untuk melarang model AI open-weight asal China. Ia menegaskan bahwa Anthropic tidak pernah mengadvokasi pelarangan model open-weight.

Pernyataan tersebut disampaikan Amodei pada Senin sore waktu setempat sebagai respons terhadap rumor yang beredar di industri. “Anyone who has read my past writing should know that I don’t regard such bans as a useful measure, but let me state it clearly so that there is no doubt: Anthropic has never advocated for a ban on open-weights models,” tulis Amodei dalam blog post-nya, dengan penekanan pada kata “never.”

Klarifikasi ini muncul setelah Nvidia founder dan CEO Jensen Huang memposting surat terbuka di X. Surat tersebut ditandatangani oleh sejumlah perusahaan AI besar seperti Nvidia, Hugging Face, Meta, Microsoft, dan Mistral. Mereka mendesak para pembuat kebijakan untuk tidak memberlakukan “premature restrictions” yang terlalu luas terhadap model AI open-weight.

Meski surat itu tidak secara spesifik menyebut China, perdebatan di industri memang berpusat pada tuduhan bahwa laboratorium AI China semakin canggih, seringkali dengan mencuri kekayaan intelektual dari perusahaan Amerika. Salah satu metodenya adalah distilasi, di mana sebuah AI membombardir model lain dengan prompt untuk mempelajari cara kerjanya.

Dalam blog post yang sama, Amodei menjelaskan pandangannya bahwa model open-weight berada dalam kategori yang berbeda dari ancaman yang ditimbulkan China. Menurutnya, model open-weight tanpa kemampuan berbahaya adalah barang publik yang memberikan nilai bagi bisnis, pengembang, dan peneliti.

“Open-weights models that don’t have dangerous capabilities are a public good: they don’t cost anything besides the compute needed to run them, and they provide value to businesses, developers, and researchers,” ujar Amodei.

Ia juga menegaskan bahwa kekhawatirannya terhadap AI sudah berlangsung lama, namun penggunaan model open-weight oleh bisnis, termasuk yang berasal dari China, tidak termasuk dalam daftar kekhawatirannya. Ketakutan utamanya adalah “pemerintah otoriter” yang membangun model lebih kuat daripada yang dimiliki AS untuk mencapai “keunggulan militer permanen” atau menindas rakyatnya sendiri.

Amodei menyebut Partai Komunis China (CCP) bukan satu-satunya pemerintah otoriter yang ia khawatirkan, tetapi merupakan yang “paling capable.” Ia juga mengkhawatirkan AI akan memungkinkan serangan biologis, bukan hanya serangan siber. Dalam skenario ini, model open-weight dinilai lebih berbahaya karena sulit menerapkan pengamanan atau memantau penggunaannya.

Ia mengutip laporan UK AI Security Institute yang menyatakan bahwa sekali model open-weight dirilis, model tersebut tidak dapat ditarik kembali. Hal ini bertentangan dengan argumen pendukung open source yang meyakini akses ke model AI kuat yang tidak dikendalikan oleh satu entitas justru membantu pihak pertahanan melindungi diri.

Untuk menghadapi China, Amodei mendaftarkan beberapa tindakan yang ia yakini efektif. Pertama, membatasi akses China ke chip canggih, yang sudah menjadi kebijakan lama AS. Kedua, melakukan tindakan tegas terhadap praktik distilasi. AS sendiri telah mengancam sanksi terhadap China jika terbukti terjadi pencurian kekayaan intelektual model AI.

Menariknya, Amodei juga mendukung upaya pembentukan organisasi pengujian keamanan model AI, terutama jika seluruh dunia, termasuk China, setuju untuk tunduk padanya. Ia menilai ide ini sudah mendekati konsensus dan mengapresiasi langkah pemerintahan Trump dalam beberapa bulan terakhir.

“I think this idea is actually close to a consensus: I have been heartened both that the Trump administration has moved in this direction in recent months, and by recent industry proposals that would apply such testing to the most capable models regardless of their country of origin or whether they are open or closed (while exempting less capable models, such as those from startups and academia, entirely),” tulis Amodei.

Ia menambahkan bahwa pengujian perlu bersifat global agar efektif, yang berarti CCP juga harus ikut serta. Amodei percaya kerja sama terbatas untuk mencegah senjata biologis AI mungkin terjadi karena hal itu juga sesuai dengan kepentingan China.

Pernyataan Amodei ini memberikan kejelasan di tengah kebisingan industri tentang posisi Anthropic. Perusahaan yang dikenal dengan model AI Claude ini menegaskan bahwa inovasi terbuka tetap penting, selama tidak menimbulkan risiko keamanan yang serius. Ia melihat model open-weight sebagai alat yang bermanfaat, bukan ancaman, selama tidak memiliki kemampuan berbahaya.

Namun, Amodei tetap waspada terhadap potensi penyalahgunaan. Ia menekankan bahwa model open-weight yang memiliki kemampuan berbahaya harus diawasi secara ketat. Di sinilah peran organisasi pengujian keamanan global menjadi krusial. Jika China bersedia bergabung, risiko proliferasi AI berbahaya bisa diminimalkan.

Sikap ini menunjukkan bahwa Anthropic mencoba menyeimbangkan antara inovasi terbuka dan keamanan. Di satu sisi, mereka mendukung pengembangan model open-weight yang memberikan manfaat luas. Di sisi lain, mereka tidak menutup mata terhadap risiko yang mungkin timbul, terutama dari aktor negara yang tidak bertanggung jawab.

Dalam konteks persaingan teknologi AS-China, pernyataan Amodei juga relevan. Ia tidak melihat larangan total sebagai solusi, melainkan pendekatan yang lebih terukur seperti pembatasan chip dan pengawasan distilasi. Ini sejalan dengan model AI open-source China yang terus berkembang.

Selain itu, Amodei juga menyoroti pentingnya kerja sama internasional dalam pengujian keamanan AI. Ia optimistis bahwa China mungkin bersedia bergabung dalam upaya ini, terutama jika menyangkut pencegahan senjata biologis. Ini menunjukkan bahwa meskipun ada ketegangan geopolitik, kolaborasi di bidang keamanan AI masih mungkin terjadi.

Bagi industri AI secara keseluruhan, pernyataan ini memberikan sinyal bahwa debat tentang regulasi model open-weight masih jauh dari selesai. Pihak yang pro dan kontra sama-sama memiliki argumen kuat. Namun, dengan adanya klarifikasi dari pemain kunci seperti Anthropic, arah kebijakan ke depan mungkin akan lebih jelas.

Dalam blog post-nya, Amodei juga menyinggung tentang pentingnya infrastruktur AI yang aman dan andal. Ia menyebutkan bahwa Anthropic terus berinvestasi dalam keamanan model, termasuk melalui kerja sama besar untuk infrastruktur AI dengan AMD.

Pandangan Amodei ini sekaligus membedakan Anthropic dari beberapa perusahaan AI lain yang mungkin lebih vokal mendukung atau menentang regulasi. Dengan pendekatan yang lebih nuansa, Anthropic mencoba menempatkan diri sebagai pemimpin pemikiran dalam diskusi tentang masa depan AI.

Ke depannya, perdebatan tentang model open-weight kemungkinan akan terus berlanjut. Namun, dengan adanya pernyataan tegas dari CEO Anthropic, setidaknya satu suara penting telah memberikan kejelasan. Industri kini menunggu langkah selanjutnya dari pembuat kebijakan dan regulator.