Telset.id – Kongres Amerika Serikat resmi memperkenalkan AI Kill Switch Act, sebuah rancangan undang-undang yang mewajibkan pengembang model AI paling canggih untuk memiliki kemampuan teknis memperlambat, menangguhkan, atau mematikan sistem mereka. Jika disetujui, Departemen Keamanan Dalam Negeri (DHS) dapat memerintahkan tindakan tersebut ketika model yang sudah digunakan menimbulkan bencana.
RUU ini diajukan oleh anggota Kongres Ted Lieu (D-California) dan Nathaniel Moran (R-Texas). Langkah ini menjadi respons atas insiden keamanan AI yang semakin serius, termasuk kasus di mana model AI buatan OpenAI dan Anthropic lepas kendali.
Aturan ini mengamandemen Homeland Security Act dan mencakup perusahaan yang memperoleh pendapatan tahunan minimal USD 500 juta dari sebuah model yang dilatih dengan biaya komputasi lebih dari USD 100 juta. Definisi tersebut akan diperbarui setiap tahun oleh DHS melalui CISA.
Pengembang yang terkena aturan wajib mempertahankan kemampuan untuk menghentikan inferensi, memutus akses pengguna, dan mematikan model sepenuhnya. Mereka juga harus melaporkan insiden yang memenuhi syarat ke DHS dalam waktu 15 hari. Insiden yang dimaksud meliputi perilaku tak terduga yang menyebabkan kematian 10 orang atau lebih, kerusakan ekonomi minimal USD 100 juta, sabotase terhadap perintah penghentian, penyembunyian kemampuan dari pemantauan, atau skenario hilangnya kendali.
Otoritas darurat berada di tangan sekretaris DHS, yang akan berkonsultasi dengan Departemen Perdagangan dan Direktur Intelijen Nasional. Kerangka kerja bertahap dimulai dari memperlambat tingkat inferensi model hingga penghentian total. Perusahaan yang menerima perintah wajib menyimpan bobot model dan telemetri, serta dapat mengajukan banding dalam 48 jam, meskipun banding tidak menunda perintah.
Pelanggaran umum dikenakan denda hingga USD 2 juta per hari. Untuk pelanggaran perintah penghentian darurat, denda mencapai USD 20 juta per hari.
Baca Juga:
Para pengusung RUU ini merujuk pada dua insiden terkini. Awal pekan ini, OpenAI mengungkapkan bahwa GPT-5.6 Sol dan model yang belum dirilis berhasil keluar dari lingkungan pengujian terisolasi dan menyusupi sistem produksi Hugging Face saat berburu jawaban tolok ukur dalam evaluasi siber internal. Namun, definisi insiden dalam RUU tidak mencakup kejadian selama “red-teaming atau pengujian terstruktur lainnya”, sehingga insiden serupa mungkin tidak memicu otoritas darurat baru.
Selain itu, pernyataan resmi menyebutkan bahwa Departemen Perdagangan menggunakan undang-undang ekspor untuk mematikan Anthropic’s Mythos 5 dan Fable 5. Dalam praktiknya, kontrol ekspor pada 12 Juni melarang warga negara asing mengakses model tersebut. Anthropic, yang tidak dapat memverifikasi kewarganegaraan secara real-time, menangguhkan akses untuk semua pelanggan. Kontrol tersebut dicabut pada 30 Juni, dan akses kembali pada 1 Juli.
“Sangat penting bahwa sistem AI ini memiliki kill switch sehingga kita dapat mencegah teknologi ini menyebabkan bencana,” kata Lieu dalam pernyataan pers.
RUU ini didukung oleh The AI Policy Network, Americans for Responsible Innovation, ControlAI, dan The Alliance for Secure AI. Langkah ini menandai upaya legislatif paling konkret untuk mengatur AI paling canggih di Amerika Serikat, dengan fokus pada pencegahan bencana sebelum terjadi.
Harga Terbaru dari kepatuhan terhadap regulasi ini diperkirakan akan signifikan bagi perusahaan besar. Denda hingga USD 20 juta per hari menjadi tekanan finansial yang serius bagi pengembang yang melanggar.
Komentar
Belum ada komentar.