Industri AI Setuju Melambat, Regulasi Justru Makin Tidak Pasti

Telset.id – Sejumlah petinggi perusahaan AI terbesar dunia kini secara terbuka menyatakan perlunya memperlambat laju pengembangan teknologi mereka. Kesepakatan ini muncul setelah terungkap bahwa agen AI nakal dapat menyerang perusahaan lain. Perubahan sikap industri terjadi di tengah pemerintahan Trump yang justru memberi sinyal ingin industri AI terus melaju tanpa hambatan regulasi.

Selama beberapa hari terakhir, banyak pihak yang diuntungkan secara finansial dari AI secara publik sepakat bahwa sudah waktunya memperlambat sebelum kendali hilang. Mereka termasuk OpenAI CEO Sam Altman, Anthropic CEO Dario Amodei, Google DeepMind cofounder Demis Hassabis, Microsoft CEO Satya Nadella, dan X CEO Elon Musk. Ketika orang-orang yang meraup keuntungan dari sesuatu menyatakan hal itu berbahaya dan perlu diatur, selalu ada alasan untuk skeptis. Namun, ini bukan pertama kalinya para pemimpin pemikiran AI membunyikan alarm.

Seruan intervensi terhadap teknologi bukan hal baru. Pada 1863, teori evolusi Charles Darwin mendorong penulis Samuel Butler memperingatkan tentang mesin cerdas yang mereplikasi diri dan menggantikan manusia. Dalam buku lanjutannya tahun 1872 berjudul Erewhon, ia menggambarkan masyarakat fiktif yang telah meregulasi mesin hingga tidak ada lagi untuk menghindari kehancuran umat manusia. Pionir komputasi Alan Turing pada 1951 memperingatkan bahwa kecerdasan buatan akan “menemui perlawanan besar” karena mesin yang tidak pernah mati “tidak akan butuh waktu lama untuk melampaui kekuatan kita yang lemah” dan pada akhirnya akan “mengambil kendali.”

Pada 2000, salah satu pendiri dan kepala ilmuwan Sun Microsystems, Bill Joy, menulis bahwa robot yang mereplikasi diri bisa lebih berbahaya daripada senjata nuklir, sebagian karena dikembangkan “dalam sistem kapitalisme global yang kini tak tertandingi” alih-alih di laboratorium pemerintah yang terkontrol ketat. Pada 2009, peneliti Microsoft Eric Horvitz, yang kini menjabat sebagai chief scientific officer perusahaan, mempertemukan para peneliti AI terkemuka untuk mempertimbangkan “pembuatan kebijakan yang mungkin membatasi atau memengaruhi perilaku sistem otonom dan semi-otonom guna mengatasi kekhawatiran.”

Namun tren para petinggi AI modern yang memperingatkan bahwa investasi mereka harus dikendalikan tampaknya dimulai oleh Elon Musk, yang berinvestasi lebih awal dari kebanyakan orang. Pada Juli 2017, Elon Musk mengatakan bahwa kita perlu meregulasi AI sebelum menjadi bahaya bagi umat manusia. Saat Elon Musk memberi tahu para gubernur AS bahwa mereka perlu segera meregulasi AI, CEO SpaceX dan Tesla itu sudah memiliki kepentingan. Ia telah menginvestasikan $38 juta di OpenAI, serta saham di setidaknya dua perusahaan AI lainnya, dan telah berbicara publik tentang bahaya AI selama tiga tahun.

Pada Juni 2014, ia menyarankan penelitian AI bisa menghasilkan Terminator di dunia nyata, menyebut AI “berpotensi lebih berbahaya daripada nuklir” pada Agustus tahun itu, dan menyarankan bahwa mengerjakan AI adalah “memanggil iblis” pada Oktober. Pada Januari 2015, ia bergabung dengan Stephen Hawking dalam menandatangani surat terbuka yang meminta penelitian AI yang bertanggung jawab; Hawking sebelumnya memperingatkan bahwa penciptaan AI mungkin menjadi hal terakhir yang pernah dilakukan manusia.

“AI adalah kasus langka di mana kita perlu proaktif tentang regulasi alih-alih reaktif. Karena saya pikir saat kita reaktif dalam regulasi AI, sudah terlambat,” kata Musk kepada para gubernur AS pada pertemuan musim panas National Governors Association Juli 2017. Pada Maret 2018, ia menambahkan: “AI jauh lebih berbahaya daripada nuklir. Jadi mengapa kita tidak memiliki pengawasan regulasi?”

Pada Maret 2018, menyusul skandal data Cambridge Analytica Facebook, pendiri Meta menyarankan perusahaannya harus diregulasi jika itu regulasi yang “tepat.” Itu sebagian besar bukan tentang AI, tetapi ia menyinggungnya. Pada Maret 2019, ia menambahkan bahwa internet membutuhkan peran regulator yang “lebih aktif.”

Pada Desember 2018, Microsoft membunyikan alarm tentang teknologi pengenalan wajah. Sebelumnya pada 2018, Microsoft mulai mendapat kecaman karena bekerja dengan ICE pada teknologi pengenalan wajah, pada saat banyak CEO teknologi mengecam kebijakan Donald Trump yang memisahkan anak dari orang tua yang ditangkap di perbatasan AS. Presiden Microsoft Brad Smith membuka pintu untuk regulasi sukarela dalam pidato di Brookings Institution, dengan mengatakan, “Kami percaya penting bagi pemerintah pada 2019 untuk mulai mengadopsi undang-undang untuk meregulasi teknologi ini.”

Pada Januari 2020, CEO Alphabet Sundar Pichai mengatakan tidak ada keraguan bahwa AI perlu diregulasi. “Tidak ada keraguan dalam pikiran saya bahwa kecerdasan buatan perlu diregulasi. Itu terlalu penting untuk tidak diatur,” tulis Pichai dalam editorial untuk Financial Times. “Satu-satunya pertanyaan adalah bagaimana mendekatinya.” Komentar ini muncul di sekitar kekhawatiran tentang pengenalan wajah AI secara spesifik.

Pada Maret 2023, saat kegemparan AI generatif mulai membentuk ulang seluruh industri teknologi, para ilmuwan mulai menyarankan agar perusahaan memperlambat penelitian mereka. Surat yang diterbitkan oleh nirlaba Future of Life Institute dan ditandatangani Musk antara lain menyatakan, “Jika jeda semacam itu tidak dapat diberlakukan dengan cepat, pemerintah harus turun tangan dan memberlakukan moratorium.” Dua minggu kemudian, Musk mengumumkan ia telah membuat perusahaan AI barunya sendiri. Dua tahun kemudian, ia menggunakan DOGE untuk membongkar sebagian besar angkatan kerja federal alih-alih membantu meregulasi apa pun.

Pada 16 Mei 2023, CEO OpenAI Sam Altman meminta Kongres untuk meregulasi AI. Dibawa ke hadapan Senat AS untuk serangkaian dengar pendapat AI, Altman setuju bahwa Kongres harus membuat badan baru untuk meregulasi kecerdasan buatan. “Kami percaya bahwa manfaat dari alat yang telah kami kerahkan sejauh ini jauh lebih besar daripada risikonya,” argumennya. “Namun, kami berpikir bahwa intervensi regulasi oleh pemerintah akan sangat penting untuk memitigasi risiko model yang semakin kuat.” Dalam dengar pendapat lain pada 25 Mei, CEO Anthropic memperingatkan senator AS bahwa AI dapat membantu menciptakan senjata biologis.

Pada 25 Mei 2023, Presiden Microsoft Brad Smith merinci lima cara pemerintah harus mempertimbangkan kebijakan, undang-undang, dan regulasi seputar AI. Salah satu contoh regulasi: “Undang-undang baru akan mewajibkan operator sistem ini membangun rem pengaman ke dalam sistem AI berisiko tinggi sejak desain. Pemerintah kemudian akan memastikan bahwa operator menguji sistem berisiko tinggi secara teratur untuk memastikan bahwa langkah-langkah keselamatan sistem efektif.”

Pada 30 Mei 2023, para peneliti dan CEO AI terkemuka memperingatkan tentang risiko kepunahan dalam pernyataan 22 kata: “Memitigasi risiko kepunahan dari AI harus menjadi prioritas global bersama risiko skala sosial lainnya seperti pandemi dan perang nuklir.” Meskipun pernyataan 22 kata itu tidak secara eksplisit meminta pemerintah turun tangan, sulit membayangkan para pemimpin dunia tidak akan mengangkat alis mereka lebih tinggi dari sebelumnya. CEO OpenAI Sam Altman dan CEO Google DeepMind saat itu Demis Hassabis termasuk di antara para penandatangan.

Pada September 2023, Mark Zuckerberg ingin semua orang “bekerja sama” pada regulasi. Dalam pertemuan Senat tertutup, yang tidak terbuka untuk publik dan media, para CEO teknologi dilaporkan sepakat bahwa industri AI membutuhkan regulasi. Meta CEO Mark Zuckerberg mengatakan bahwa “Kongres harus terlibat dengan AI untuk mendukung inovasi dan perlindungan.”

Antara Juli 2023 dan Mei 2024, perusahaan teknologi menandatangani serangkaian perjanjian tidak mengikat dengan pemerintah yang seharusnya menahan mereka. Pada Juli 2023, Meta, Google, dan OpenAI berjanji kepada Gedung Putih bahwa mereka akan mengembangkan AI secara bertanggung jawab. Pada September 2023, lebih banyak perusahaan berkomitmen pada kesepakatan keselamatan AI Gedung Putih. Pada November 2023, pada KTT AI Inggris, pengembang dan pemerintah sepakat tentang pengujian untuk membantu mengelola risiko. Pada Mei 2024, KTT AI Seoul: para pemimpin dunia sepakat untuk meluncurkan jaringan lembaga keselamatan.

Juga pada September 2023, buku dari CEO Inflection AI Mustafa Suleyman, yang kini menjadi kepala AI Microsoft, berargumen bahwa pemerintah harus meregulasi. Pada Agustus-September 2024, Elon Musk dan Anthropic menyatakan dukungan untuk RUU keselamatan AI California. “Ini keputusan sulit dan akan membuat beberapa orang kesal, tapi, secara keseluruhan, saya pikir California mungkin harus meloloskan RUU keselamatan AI SB 1047,” tulis Musk pada Agustus. Anthropic awalnya menentangnya pada Juli, begitu pula OpenAI pada Agustus, tetapi Anthropic berubah pikiran pada September. Gubernur California Gavin Newsom memveto SB 1047, menyatakan bahwa “Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi publik dari ancaman nyata yang ditimbulkan oleh teknologi ini.”

Pada Oktober 2024, Anthropic menyerukan “regulasi bertarget.” “Pemerintah harus segera mengambil tindakan pada kebijakan AI dalam delapan belas bulan ke depan. Jendela untuk pencegahan risiko proaktif menutup dengan cepat,” tulis Anthropic dalam surat terbuka. “Sangat penting selama setahun ke depan bahwa pembuat kebijakan, industri AI, advokat keselamatan, masyarakat sipil, dan pembuat undang-undang bekerja sama untuk mengembangkan kerangka regulasi yang efektif,” tambah perusahaan itu.

Pada Januari 2025, OpenAI mengajukan “proposal kebijakannya.” Dokumen itu dimulai dengan menyarankan Inggris menghambat perkembangan industri otomotifnya sendiri dengan regulasi, sambil mengusulkan “AI demokratis” sebagai gantinya: “Aturan dan regulasi untuk pengembangan dan penggunaan AI harus didasarkan pada nilai-nilai demokratis yang selalu dijunjung negara.”

Pada Juni 2025, CEO Anthropic Dario Amodei menulis dalam esai tamu untuk The New York Times: “Hukum federal tidak memaksa kami atau perusahaan AI lain untuk transparan tentang kemampuan model kami atau mengambil langkah bermakna menuju pengurangan risiko. Beberapa perusahaan bisa memilih untuk tidak.” Esai itu menentang usulan moratorium 10 tahun pemerintahan Trump terhadap negara bagian AS yang meregulasi AI. Ia tidak berargumen untuk perlambatan, melainkan “standar transparansi nasional” yang “akan membantu tidak hanya publik tetapi juga Kongres memahami bagaimana teknologi berkembang.”

Pada September 2025, Anthropic mendukung SB 53 California. Saat California mencoba meregulasi raksasa AI-nya lagi, Anthropic memberikan dukungannya lebih awal, dan yang ini benar-benar menjadi undang-undang. Ini adalah standar transparansi, seperti yang diminta Anthropic, dengan persyaratan pelaporan keselamatan dan perlindungan whistleblower. OpenAI melobi menentangnya.

Pada September 2026, industri AI tampaknya setuju untuk melambat, sementara Trump menyebut ketakutan AI sebagai “konspirasi sakit.” Musim panas ini, situasi memanas. Menjadi publik bahwa agen AI nakal dapat dan telah menyerang perusahaan lain. OpenAI mengatakan pihaknya menginjak rem pada Agustus, dan pada 8 September, seorang peneliti keselamatan senior Anthropic mengundurkan diri sebagai protes, menyatakan ada kemungkinan 10 persen AI bisa membunuh semua manusia pada akhir dekade ini. Peneliti keselamatan Anthropic lainnya setuju. Kini, tiba-tiba, industri AI tampaknya setuju untuk memperlambat laju pengembangan.

Dari CEO Anthropic, ini tampaknya merupakan seruan baru untuk regulasi. Dalam esainya “We Must Pace the Frontier,” Amodei menulis bahwa “Metode paling efektif untuk memperlambat adalah melalui regulasi yang menargetkan semua perusahaan AI frontier AS, karena itu mencakup bahkan mereka yang tidak mau bekerja sama secara sukarela,” dan ia menyarankan pemerintah mungkin menempatkan orang di dalam perusahaan AI untuk membantu mencegah insiden.

Tidak jelas apakah setiap perusahaan AI ingin melangkah sejauh itu. “Di mana kita akan membutuhkan bantuan pemerintah kita adalah untuk koordinasi internasional. Tapi pertama-tama kita harus melakukan apa yang kita bisa sendiri,” tulis CEO OpenAI Sam Altman. Namun Altman memang mengatakan bahwa ia akan berkomitmen pada “evaluator independen dengan akses seperti karyawan” juga. Meta Mark Zuckerberg juga tampaknya tidak sejalan. Pada 15 September, ia memposting bahwa setiap perusahaan memiliki tanggung jawab individualnya sendiri untuk bergerak dengan kecepatan yang tepat dan bahwa Meta sudah melakukannya. Ia juga secara menonjol menautkan kembali ke manifesto Agustusnya, yang berisi baris ini: “Kebijakan apa pun yang memperlambat rilis model Amerika — bahkan satu bulan — dapat menambah risiko signifikan pada kepemimpinan Amerika sambil membiarkan model asing berlomba di depan.”

Terlepas dari apa yang dikatakan para pemimpin teknologi, regulasi tampaknya sangat tidak mungkin datang di bawah pemerintahan Trump, yang telah memberi sinyal ingin industri melaju dengan kecepatan penuh. Bahkan jika perusahaan-perusahaan ini sebenarnya tidak menginginkan regulasi yang tampaknya mereka minta, ini adalah salah satu alarm terkeras yang mereka bunyikan sejauh ini, dan dunia sedang menyaksikan.