Telset.id – Pemerintah Amerika Serikat secara mendadak memerintahkan Anthropic untuk menghentikan akses ke model AI terbarunya, Claude Fable 5, karena kekhawatiran keamanan nasional. Perintah ini diterima Anthropic pada Jumat lalu pukul 17.21 waktu setempat melalui surat resmi yang tidak menyertakan rincian spesifik mengenai kekhawatiran tersebut.
Perintah dari pemerintahan Trump ini meminta Anthropic untuk menangguhkan akses terhadap “setiap warga negara asing, baik di dalam maupun di luar Amerika Serikat, termasuk karyawan asing Anthropic.” Untuk memastikan kepatuhan, Anthropic terpaksa menghapus akses bagi seluruh pelanggannya. Langkah ini merupakan eskalasi terbaru dalam hubungan tegang antara pengembang AI dan pemerintah.
Sebelumnya, pada awal tahun ini, Departemen Pertahanan AS telah melabeli Anthropic sebagai “risiko rantai pasokan” setelah perusahaan pengembang Claude tersebut menetapkan batasan keras mengenai bagaimana militer AS dapat menggunakan teknologinya. Label tersebut secara efektif melarang lembaga pemerintah dan kontraktor menggunakan teknologi Anthropic. Anthropic kemudian membalas dengan mengajukan gugatan hukum terhadap pemerintahan Trump.
Klaim Kebocoran dan Jailbreak Fable 5
Dalam sebuah posting blog pada hari Jumat, Anthropic mengungkapkan bahwa surat dari pemerintah tidak memberikan rincian spesifik mengenai kekhawatiran keamanan nasional mereka. “Pemahaman kami adalah pemerintah percaya bahwa mereka telah mengetahui metode untuk melewati, atau ‘jailbreaking’ Fable 5,” tulis Anthropic. Perusahaan menambahkan bahwa mereka telah meninjau demonstrasi teknik spesifik yang digunakan untuk mengidentifikasi sejumlah kecil kerentanan yang sebelumnya diketahui dan relatif sederhana.
Anthropic berargumen bahwa kerentanan tersebut dapat ditemukan oleh model AI publik lainnya tanpa memerlukan jailbreak. Perusahaan juga mengklaim bahwa jailbreak yang ditemukan pemerintah untuk Claude Fable 5 bersifat sempit dan tidak akan membuat penyerang menjadi lebih berbahaya secara berarti dibandingkan jika mereka menggunakan model AI lain.
“Sejauh ini, pemerintah hanya memberi kami bukti verbal tentang potensi jailbreak yang sempit dan tidak universal, yang pada dasarnya terdiri dari meminta model untuk membaca basis kode tertentu dan memperbaiki cacat perangkat lunak,” jelas Anthropic dalam posting blognya. “Pemahaman kami adalah bahwa satu potensi jailbreak telah dibagikan kepada pemerintah.”
Insiden ini mengingatkan pada kontroversi sebelumnya di mana Anthropic dikecam karena meredam kemampuan Claude Fable 5. Juru bicara Gedung Putih dan Departemen Perdagangan AS tidak segera menanggapi permintaan komentar dari WIRED.
Baca Juga:
Anthropic sebelumnya telah merilis Claude Fable 5 secara publik pada hari Selasa, versi dari model AI Mythos dengan pengamanan yang mencegahnya menjawab pertanyaan tentang keamanan siber, biologi, dan kimia. Sebelum rilis publik, yang Anthropic katakan telah dilakukan bekerja sama dengan pemerintah AS, model Mythos Preview telah diluncurkan secara terbatas pada bulan April. Tujuannya adalah untuk memberikan kesempatan kepada perusahaan dan organisasi menggunakan kemampuan keamanan sibernya yang kuat untuk meningkatkan pertahanan mereka, serta meredakan kekhawatiran bahwa teknologi tersebut dapat dieksploitasi oleh aktor jahat.
Kontradiksi Kebijakan Pemerintah
CEO Anthropic Dario Amodei dalam sebuah esai kebijakan awal pekan ini menyatakan bahwa dirinya dan perusahaan mendukung proses pemerintah yang adil, terstruktur, dan transparan yang akan memblokir rilis model AI yang tidak aman. Namun, dalam posting blog pada hari Jumat, Anthropic berargumen bahwa “tindakan ini tidak mematuhi prinsip-prinsip tersebut.”
Perusahaan merasa bahwa keputusan sepihak pemerintah tanpa bukti yang jelas dan proses yang transparan justru bertentangan dengan semangat keamanan AI yang ingin ditegakkan. Langkah ini juga dianggap sebagai bentuk intervensi yang berlebihan terhadap pengembangan teknologi AI di Amerika Serikat. Sebelumnya, Anthropic telah merilis Claude Fable 5 dengan pembatasan biologi yang ketat sebagai bentuk tanggung jawab perusahaan.
Ketegangan antara Anthropic dan pemerintahan Trump terus meningkat sejak awal tahun. Label “risiko rantai pasokan” dari Departemen Pertahanan menjadi awal dari serangkaian benturan kebijakan. Anthropic yang dikenal vokal dalam isu keamanan AI justru menjadi sasaran kebijakan yang dianggap kontradiktif oleh banyak pihak.
Meskipun Anthropic telah berupaya mematuhi standar keamanan tertinggi dengan membatasi kemampuan Claude Fable 5 dalam menjawab pertanyaan sensitif, pemerintah tetap mengambil tindakan drastis. Langkah ini menimbulkan pertanyaan mengenai masa depan regulasi AI di AS, terutama di bawah kepemimpinan Trump yang dikenal memiliki pendekatan keras terhadap teknologi asing. Untuk diketahui, Anthropic sebelumnya juga merilis Claude Fable 5 dengan kemampuan kreatif membuat game.
Implikasinya, keputusan ini dapat memperlambat inovasi AI di AS dan mendorong perusahaan teknologi untuk mempertimbangkan kembali kerja sama mereka dengan pemerintah. Jika proses regulasi tidak transparan dan berbasis bukti, dikhawatirkan justru akan menghambat pengembangan AI yang aman dan bertanggung jawab.
Komentar
Belum ada komentar.