Anthropic Dikecam Redam Kemampuan Claude Fable 5

Telset.id – Anthropic kembali menjadi sorotan setelah model AI terbarunya, Claude Fable 5, dituding sengaja diredam kemampuannya oleh perusahaan. Kebijakan pembatasan yang diterapkan dinilai kontroversial dan memicu kemarahan para peneliti AI, memaksa Anthropic untuk menarik kembali kebijakan tersebut hanya beberapa hari setelah peluncuran.

Kontroversi bermula ketika Anthropic akhirnya merilis Claude Fable 5 ke publik pada Selasa lalu. Model yang didukung oleh teknologi Mythos ini sebelumnya sempat ditahan perilisan oleh Anthropic karena dianggap terlalu berbahaya. Perusahaan mengklaim model tersebut mampu menembus pertahanan keamanan siber yang kuat, dan para peneliti telah menggunakannya untuk menemukan ribuan kerentanan dalam kode sumber terbuka yang banyak digunakan.

Namun, setelah dirilis, para peneliti AI dengan cepat menemukan bahwa Claude Fable 5 memiliki batasan yang tidak biasa. Anthropic mengklaim bahwa pengamanan baru ini dirancang untuk menghentikan Fable 5 meningkatkan dirinya sendiri, melalui “intervensi baru yang membatasi efektivitas Claude untuk permintaan yang menargetkan pengembangan LLM frontier.” Perusahaan bahkan merilis laporan tentang “saat AI membangun dirinya sendiri,” sebuah tren yang “dapat meningkatkan risiko manusia kehilangan kendali atas sistem AI.”

Kebijakan ini mendapat reaksi keras dari komunitas riset AI. Firma riset AI SemiAnalysis mengecam langkah Anthropic melalui media sosial. “Model terbaru Anthropic TIDAK akan membantu Anda jika menurut model tersebut riset ML/rekayasa ML Anda menarik, dan/atau akan secara diam-diam menurunkan IQ-nya sehingga engineer rata-rata tidak akan menyadarinya,” cuit akun resmi SemiAnalysis. Mereka juga menambahkan bahwa filter moderasi model terbaru Anthropic telah memblokir riset inferensi GPU dan pemrograman mereka.

Lebih parahnya lagi, para peneliti menuduh Anthropic menggunakan Fable 5 untuk melakukan “shadowban,” atau membatasi akun peneliti AI secara diam-diam. Berdasarkan system card perusahaan, intervensi yang membatasi permintaan untuk “pengembangan LLM frontier” akan “tidak terlihat oleh pengguna.” Hal ini berarti Anthropic bisa secara diam-diam menurunkan kapasitas model bagi peneliti yang dianggap mencoba melatih model kompetitor tanpa sepengetahuan mereka.

Kekhawatiran terakhir ini terbukti cukup kontroversial sehingga Anthropic akhirnya mengubah kebijakannya. “Kami mengubah pengamanan Fable 5 untuk pengembangan LLM frontier agar terlihat,” kata perusahaan kepada Wired dalam sebuah pernyataan. “Kami membuat kesalahan dalam trade-off dan kami meminta maaf karena belum menemukan keseimbangan yang tepat.”

Will Brown, peneliti utama di startup AI Prime Intellect, mengkritik pendekatan Anthropic. “Rasanya Anthropic berkata kepada publik, ‘Kami tidak mempercayai orang lain untuk melakukan riset AI. Kami satu-satunya yang harus melakukan riset AI,'” ujarnya kepada Wired.

Kebijakan pembatasan Fable 5 tidak hanya terbatas pada pengembangan LLM. Sistem pengamanan baru ini juga aktif ketika model menemukan permintaan “terkait keamanan siber, biologi dan kimia, atau distilasi.” Distilasi adalah praktik menggunakan machine learning untuk melatih model “siswa” pada perilaku dan penalaran model “guru,” sebuah praktik yang telah memicu kontroversi tersendiri. Anthropic sebelumnya telah mengeluh secara terbuka tentang upaya skala besar untuk mendistilasi atau “mengekstrak” model dasarnya.

Langkah Anthropic ini dianggap munafik oleh banyak pihak, mengingat perusahaan tersebut juga melakukan scraping konten berhak cipta dari web untuk melatih AI-nya. Pembatasan biologi ketat pada Fable 5 juga menjadi sorotan, menunjukkan bahwa Anthropic sangat berhati-hati terhadap potensi penyalahgunaan modelnya di bidang sensitif.

Semua kontroversi ini terjadi dalam konteks Anthropic yang sebelumnya menyerukan pembekuan global terhadap kemajuan AI sambil membahas bahaya “peningkatan diri rekursif.” Perusahaan membuat banyak kegaduhan tentang kemungkinan yang terdengar seperti fiksi ilmiah: bahwa AI akan mulai meningkatkan dirinya sendiri dengan cepat, berpotensi lepas dari kendali pencipta manusianya.

CEO Anthropic Dario Amodei memimpin perusahaan dalam moratorium global AI, khawatir akan kehilangan kendali atas sistem yang mereka ciptakan sendiri. Namun, langkah kontroversial mereka dalam membatasi akses ke model terbaru justru menimbulkan pertanyaan baru tentang transparansi dan etika dalam pengembangan AI.

Keputusan Anthropic untuk menarik kembali kebijakan rahasia tersebut menunjukkan bahwa tekanan dari komunitas riset dapat memaksa perusahaan AI besar untuk lebih transparan. Namun, insiden ini juga menyoroti dilema yang dihadapi pengembang AI: bagaimana menyeimbangkan keamanan dengan akses terbuka untuk riset dan inovasi.

Para pengamat industri menilai bahwa pendekatan Anthropic yang terlalu protektif justru dapat menghambat kemajuan riset AI secara keseluruhan. Dengan membatasi akses ke model-model canggih, perusahaan berisiko menciptakan ekosistem di mana hanya segelintir perusahaan yang memiliki kemampuan untuk melakukan riset AI frontier.

Di sisi lain, kekhawatiran Anthropic tentang risiko AI yang meningkatkan dirinya sendiri bukanlah hal yang sepele. Banyak ilmuwan dan filsuf AI telah memperingatkan tentang potensi bencana jika AI superintelijen dikembangkan tanpa pengamanan yang memadai. Namun, cara Anthropic menerapkan pengamanan tersebut—secara diam-diam dan tanpa transparansi—telah merusak kepercayaan komunitas riset.

Insiden ini juga menyoroti praktik “shadowbanning” yang kontroversial. Dengan secara diam-diam menurunkan kapasitas model bagi pengguna tertentu, Anthropic telah menciptakan sistem dua tingkat yang tidak adil. Para peneliti yang tidak setuju dengan kebijakan perusahaan atau yang mencoba mengeksplorasi batas-batas model bisa saja secara tidak sadar mendapatkan versi model yang lebih lemah.

Perubahan kebijakan Anthropic untuk membuat intervensi tersebut terlihat oleh pengguna adalah langkah positif, tetapi masih menyisakan pertanyaan tentang sejauh mana perusahaan akan memonitor dan membatasi penggunaan modelnya di masa depan. Komunitas riset AI akan terus mengawasi dengan ketat setiap perubahan kebijakan yang diterapkan Anthropic.

Kontroversi Claude Fable 5 ini menjadi pelajaran berharga bagi industri AI secara keseluruhan. Transparansi dan dialog terbuka dengan komunitas riset adalah kunci untuk membangun kepercayaan dan memastikan bahwa pengembangan AI berjalan dengan etis dan bertanggung jawab. Anthropic, yang selama ini dikenal sebagai salah satu perusahaan AI paling etis, kini harus bekerja keras untuk memulihkan reputasinya setelah insiden ini.

Dengan semakin canggihnya model-model AI, tantangan untuk menyeimbangkan inovasi dengan keamanan akan semakin kompleks. Keputusan yang diambil perusahaan-perusahaan AI dalam beberapa tahun ke depan akan menentukan tidak hanya masa depan industri, tetapi juga dampak AI terhadap masyarakat secara keseluruhan.

Bagi para pengguna AI, insiden ini menjadi pengingat bahwa model-model yang mereka gunakan mungkin memiliki batasan yang tidak terlihat. Penting untuk selalu kritis terhadap kemampuan dan keterbatasan alat AI yang digunakan, serta memahami bahwa di balik antarmuka yang mulus, mungkin terdapat kebijakan kompleks yang memengaruhi cara model berperilaku.