Delaware Buka Jalan Perusahaan Dijalankan AI, Kongres AS Bereaksi

Telset.id – Negara bagian Delaware berencana mengizinkan perusahaan dijalankan oleh agen AI, langkah yang langsung memicu reaksi dari Kongres Amerika Serikat. Ketua House Oversight Committee, Rep. James Comer, menulis surat kepada Gubernur Delaware Matt Meyer untuk menyuarakan kekhawatiran dan menuntut adanya safety assessment sebelum aturan ini diberlakukan.

Rencana Delaware ini memperluas aturan bisnis yang sudah dikenal longgar di negara bagian tersebut. Delaware selama ini menawarkan sejumlah regulasi yang menguntungkan bagi pelaku usaha, termasuk tarif pajak rendah atau nol tergantung lokasi penjualan, serta pengadilan khusus. Kini, Delaware ingin menambahkan satu terobosan baru: mengizinkan sebuah Artificial Intelligence Company (AIC) atau perusahaan yang dijalankan oleh agen AI.

Menurut laporan Financial Times, Rep. James Comer menyampaikan kekhawatirannya secara tertulis kepada Gubernur Matt Meyer. Ia menilai proposal AIC Delaware berpotensi digunakan untuk melindungi perusahaan AI besar dan para investornya dari tanggung jawab atas tindakan berbahaya yang mereka lakukan.

Skema Sandbox 30 Bulan dan Perisai Hukum

Rancangan undang-undang Delaware menetapkan periode regulasi selama 30 bulan sebagai regulatory sandbox. Dalam rentang waktu tersebut, konsep perusahaan yang dijalankan AI dapat diuji, dengan agen AI mengambil keputusan bisnis menggantikan manusia. Layaknya perusahaan biasa, perusahaan tersebut dapat digugat dan juga mengambil tindakan hukum jika diperlukan.

Namun, rancangan ini juga memunculkan persoalan tanggung jawab. Jika terjadi sesuatu yang salah, AI yang akan disalahkan dan pemilik bisnis tidak memikul tanggung jawab. Inilah yang menjadi inti keberatan pihak Kongres. “Kami khawatir proposal AIC Delaware dapat digunakan untuk melindungi perusahaan AI yang kuat dan para investornya dari tanggung jawab atas tindakan berbahaya yang ceroboh,” tulis Comer dalam suratnya.

Delaware sendiri tidak melarang semua jenis usaha dijalankan AI. Rancangan tersebut mengizinkan bisnis apa pun yang sah untuk dioperasikan oleh Artificial Intelligence Company, kecuali perbankan. Larangan ini disebutkan secara eksplisit dalam rancangan aturan yang beredar.

Dukungan dan Kritik dari Pakar

Gagasan perusahaan yang dijalankan AI sebenarnya bukan hal baru. Sejumlah nama besar di dunia bisnis dan AI sebelumnya mendukung ide ini. Yang paling menonjol adalah investor miliarder Mark Cuban, yang awal tahun ini menyarankan agar setiap gubernur negara bagian yang ingin menumbuhkan pendapatannya mengizinkan siapa pun mendirikan badan usaha menggunakan agen AI dan stablecoin. Cuban menegaskan bahwa pihak yang pertama masuk pasar akan meraup keuntungan besar.

Dari sisi akademisi, Andrew Baker, profesor hukum di University of California, menilai legislasi Delaware ini bisa jadi upaya mencapai titik tengah, mungkin untuk meraih kepastian hukum bagi perusahaan terdaftar Delaware yang menggunakan agentic AI. Namun ia juga mengingatkan bahwa hasil akhirnya kemungkinan besar berupa perisai tanggung jawab yang terlalu longgar.

“Pada akhirnya hasil yang paling mungkin tampak adalah perisai tanggung jawab yang terlalu longgar, yang tampaknya tidak beralasan tanpa adanya rasional kebijakan mendasar yang belum dikembangkan atau dibenarkan dengan baik,” kata Baker kepada Financial Times.

Perdebatan soal akuntabilitas AI memang tengah menjadi sorotan di berbagai belahan dunia. Kasus Pengacara Brasil yang didenda karena manipulasi AI pengadilan menunjukkan bahwa batas tanggung jawab manusia atas tindakan sistem AI masih menjadi wilayah abu-abu yang perlu diatur.

Pakar hukum menilai konsep ini tidak sepenuhnya berada di luar jangkauan legislasi bisnis. Korporasi memang berfungsi sebagai perisai terhadap tanggung jawab pribadi. Hanya saja, dalam kasus yang ada selama ini, perusahaan dijalankan oleh manusia yang harus bertanggung jawab kepada diri sendiri jika tidak kepada hukum. Agen AI tidak memiliki batasan moral semacam itu.

Di sisi lain, rencana Delaware disebut dapat membantu terbentuknya struktur korporasi berbasis AI, seperti bisnis perdagangan otonom. Banyak pihak meyakini model semacam ini akan tumbuh di luar negeri jika tidak ada negara bagian di AS yang bergerak cepat. Tekanan pun datang dari parlemen, sejalan dengan seruan Kongres AS yang meminta jaminan keamanan lebih kuat sebelum aturan ini melangkah lebih jauh.

Kekhawatiran legislator juga mencerminkan pola yang lebih luas dalam pengawasan AI. Anggota parlemen Inggris sebelumnya menyerukan penguatan undang-undang AI, sementara di AS sendiri muncul dorongan untuk memasang rambu-rambu sebelum agenda politik berikutnya. Dalam konteks ini, surat Comer menjadi sinyal bahwa langkah Delaware tidak akan lolos tanpa pemeriksaan.

Bagi pelaku usaha, kepastian hukum menjadi taruhan utama. Jika aturan ini lolos dalam bentuk yang longgar, Delaware berpotensi menjadi rumah bagi perusahaan-perusahaan AI yang ingin beroperasi dengan struktur kepemilikan dan tanggung jawab yang berbeda dari perusahaan konvensional. Namun jika Kongres menekan lebih jauh, prosesnya bisa tertahan oleh tuntutan safety assessment yang belum jelas parameternya.

Hingga kini, belum ada keterangan resmi mengenai respons Gubernur Matt Meyer atas surat tersebut, maupun jadwal pasti pembahasan lanjutan rancangan undang-undang tersebut. Yang jelas, proposal AIC Delaware telah memindahkan perdebatan soal akuntabilitas AI dari ruang seminar ke meja legislator, dengan implikasi langsung terhadap cara perusahaan AI dibentuk dan dipertanggungjawabkan di masa depan.