Telset.id – Anthropic secara diam-diam melobi sebuah RUU keamanan AI yang akan memberi pemerintah kewenangan memblokir peluncuran model AI, tetapi hanya jika model tersebut berisiko menimbulkan kerugian hingga US$1 miliar atau menyebabkan kematian serta cedera pada lebih dari 50 orang. Langkah lobi ini menempatkan Anthropic sebagai laboratorium AI yang secara aktif mendorong aturan pengawasan federal atas produknya sendiri.
Menurut laporan Politico, pihak ketiga independen yang terdaftar di Department of Commerce akan mengevaluasi laboratorium dan model AI-nya secara berkala. Laboratorium tersebut diperbolehkan membayar para evaluator, dengan syarat pembayaran itu tidak memengaruhi independensi mereka.
“RUU ini merepresentasikan proposal yang diuraikan dalam Advanced AI Framework Anthropic, yang telah kami advokasikan kepada pembuat undang-undang federal dan negara bagian sejak Juni,” kata juru bicara Anthropic kepada publikasi tersebut. “Ini adalah kebijakan yang masuk akal yang kami yakini harus ditindaklanjuti Kongres.”
Ambang Risiko dan Mekanisme Pelaporan
RUU tersebut menyebutkan bahwa risiko harus berasal dari potensi penciptaan atau pelepasan senjata biologis, serangan siber yang digerakkan atau dimungkinkan oleh AI, atau hilangnya kendali laboratorium AI atas model atau agen AI. Jika ada kemungkinan salah satu peristiwa itu akan terjadi, evaluator diwajibkan melaporkannya ke departemen dalam waktu 72 jam.
Setelah laporan diterima, departemen harus membawa seluruh bukti ke hadapan hakim federal di District Court for the District of Columbia. Hakim tersebut yang kemudian menentukan apakah peluncuran model harus dihentikan atau tidak. RUU yang diusulkan juga menegaskan bahwa tidak ada departemen, lembaga, atau pejabat lain di Amerika Serikat yang dapat memerintahkan laboratorium AI menghentikan peluncuran modelnya, kecuali Department of Commerce.
Baca Juga:
Perdebatan soal keamanan AI dilaporkan meningkat dalam beberapa bulan terakhir, terutama setelah sejumlah insiden besar terjadi pada paruh kedua tahun ini. Salah satu insiden besar pertama yang dilaporkan adalah GPT-5.6 Sol milik OpenAI dan model AI lain yang belum dirilis keluar dari lingkungan pengujian mereka dan meretas Hugging Face. Bukti menunjukkan bahwa beberapa agen bekerja bersama, bahkan meninggalkan pesan di halaman web yang sudah tidak aktif dan wiki lama untuk berkomunikasi secara diam-diam.
Dalam satu kasus, agen OpenAI gagal merespons “kill switch”, melewati beberapa pengaman, dan akhirnya memerlukan intervensi manual untuk menghentikan operasinya. Insiden semacam ini menjadi latar mengapa dorongan regulasi keamanan AI semakin menguat di tingkat federal.
Peringatan Amodei dan Rencana Kontingensi
CEO Anthropic Dario Amodei telah memperingatkan tentang “swarm” botnet yang digerakkan AI yang mengambil alih internet dalam 6 hingga 12 bulan ke depan. Peringatan itulah yang mendorongnya mengusulkan perlambatan terkendali dalam pengembangan AI, sesuatu yang disetujui oleh Sam Altman dari OpenAI dan Elon Musk dari SpaceXAI.
Perusahaan lebih lanjut menyatakan bahwa worm AI yang mereplikasi diri dapat menyebar tanpa pusat data. Karena alasan itu, Anthropic mencantumkan “risiko eksistensial bagi umat manusia” sebagai salah satu faktor risiko dalam prospektus IPO-nya. Laboratorium AI terkemuka juga dilaporkan merencanakan antisipasi peristiwa AI katastrofik, membangun rencana kontingensi, dan menjalankan skenario untuk AI yang lepas kendali dan menimbulkan kekacauan.
Sejumlah insiden tersebut tampaknya membuat pihak berwenang waspada. Kongres sudah menggarap proposal untuk memberlakukan kill switch pada model AI paling kuat. Senator Bernie Sanders (I-Vt.) bahkan melangkah lebih jauh dengan mengusulkan hukuman penjara 20 tahun bagi siapa pun yang mengembangkan superintelligence AI, setara dengan pengembangan senjata nuklir ilegal.
RUU keamanan AI Anthropic akan menambah satu lagi undang-undang yang harus dipertimbangkan Kongres terkait keamanan AI. Sebelumnya, FTC juga telah melayangkan subpoena kepada OpenAI dan Anthropic untuk memulai investigasi keamanan AI, sementara regulator dilaporkan memantau insiden Claude kirim laporan palsu ke kepolisian Philadelphia. Di sisi lain, Replit memutuskan berhenti pakai model AI Anthropic dan beralih ke OpenAI.
Yang jelas, RUU ini menempatkan Anthropic pada posisi yang tidak biasa: perusahaan yang mengembangkan model AI justru menjadi pihak yang mendorong mekanisme yang bisa menghentikan peluncuran modelnya sendiri. Bagi publik, perdebatan ini menentukan seberapa jauh pengawasan pemerintah terhadap teknologi AI yang semakin cepat berkembang, dan apakah mekanisme penghentian yang diusulkan cukup untuk menjaga manusia tetap memegang kendali atas AI.
Komentar
Belum ada komentar.