Pernahkah Anda merasa bahwa alur cerita film fiksi ilmiah di mana mesin mengambil alih dunia kini terasa semakin dekat dengan kenyataan? Jika Anda mengikuti perkembangan teknologi belakangan ini, rasa was-was tersebut sangatlah beralasan. Retaknya hubungan romantis antara raksasa teknologi Anthropic dan pihak Pentagon di Washington baru-baru ini telah membuka kotak Pandora yang selama ini diabaikan: ketiadaan aturan main yang jelas dalam mengendalikan kecerdasan buatan. Insiden ini bukan sekadar drama korporat biasa, melainkan sebuah alarm peringatan yang berbunyi sangat nyaring bagi masa depan umat manusia.
Mari kita mundur sejenak ke titik didih yang terjadi pada akhir Februari lalu. Menteri Pertahanan Amerika Serikat, Pete Hegseth, secara mengejutkan melabeli Anthropic sebagai “risiko rantai pasok” (supply chain risk). Label yang biasanya disematkan pada perusahaan dengan afiliasi asing yang membahayakan ini, diberikan hanya karena Anthropic menolak memberikan akses penggunaan tanpa batas atas teknologi mereka kepada militer. Ironisnya, hanya dalam hitungan jam setelah penolakan tersebut, OpenAI justru mengambil langkah sebaliknya dengan menyepakati kontrak bersama Departemen Pertahanan. Sebuah manuver yang menurut banyak pakar hukum akan sangat sulit diawasi penerapannya di lapangan.
Namun, di tengah kekacauan dan absennya regulasi dari pemerintah, sebuah harapan muncul dari koalisi pemikir lintas partai. Max Tegmark, fisikawan terkemuka dari MIT sekaligus peneliti AI, bersama ratusan ahli, mantan pejabat, dan tokoh publik merumuskan apa yang disebut sebagai Deklarasi Pro-Human. Dokumen ini rampung tepat sebelum perseteruan Pentagon dan Anthropic meledak, seolah menjadi ramalan yang terbukti kebenarannya. Tegmark mencatat sebuah fenomena luar biasa: jajak pendapat terbaru menunjukkan 95% warga Amerika Serikat kini menentang perlombaan tanpa aturan menuju kecerdasan buatan tingkat dewa. Publik mulai sadar bahwa kita sangat membutuhkan sebuah regulasi AI superintelligence yang komprehensif.
Persimpangan Jalan: Digantikan Mesin atau Memaksimalkan Potensi?
Deklarasi Pro-Human dibuka dengan sebuah observasi yang lugas dan menohok: umat manusia saat ini sedang berdiri di persimpangan jalan yang krusial. Jalan pertama adalah apa yang disebut deklarasi ini sebagai “perlombaan untuk menggantikan” (the race to replace). Jika kita memilih jalan ini, manusia secara perlahan namun pasti akan tersingkirkan. Dimulai dari hilangnya lapangan pekerjaan secara masif, hingga akhirnya mesin mengambil alih peran manusia sebagai pengambil keputusan. Kekuasaan akan terpusat pada institusi-institusi yang tak tersentuh hukum dan mesin-mesin ciptaan mereka yang tak memiliki empati.
Di sisi lain, jalan kedua menawarkan skenario yang jauh lebih optimis: kecerdasan buatan yang dirancang khusus untuk memperluas dan memaksimalkan potensi manusia. Namun, untuk mencapai utopia ini, Deklarasi Pro-Human menetapkan lima pilar utama yang tidak bisa ditawar. Pertama, manusia harus tetap memegang kendali penuh. Kedua, harus ada upaya aktif untuk mencegah pemusatan kekuasaan di tangan segelintir raksasa teknologi. Ketiga, melindungi pengalaman fundamental manusia. Keempat, melestarikan kebebasan individu. Dan kelima, menuntut pertanggungjawaban hukum secara penuh dari perusahaan pengembang AI.
Ketegasan pilar-pilar ini sangat penting mengingat betapa brutalnya persaingan di industri ini. Perusahaan seperti Anthropic, misalnya, sangat protektif terhadap kode sumber mereka karena mereka sadar betul akan ancaman pencurian model AI oleh pihak tak bertanggung jawab. Tanpa ada pilar pertanggungjawaban yang jelas, persaingan bisnis bisa dengan mudah mengorbankan etika dan keamanan global demi meraih dominasi pasar semata.
Tombol Darurat dan Analogi Obat dari FDA
Salah satu poin paling berotot dan radikal dari Deklarasi Pro-Human adalah tuntutan larangan mutlak terhadap pengembangan AI superintelligence sampai ada konsensus ilmiah bahwa teknologi tersebut benar-benar aman dan mendapat persetujuan demokratis dari masyarakat luas. Dokumen ini tidak hanya berbicara pada tataran filosofis, tetapi juga menuntut implementasi teknis yang konkret. Mereka mewajibkan adanya “tombol pemutus” (off-switches) mandatori pada sistem AI bertenaga tinggi, serta larangan keras terhadap arsitektur AI yang mampu mereplikasi diri sendiri, memperbaiki diri secara otonom, atau menolak untuk dimatikan.
Untuk menjelaskan urgensi ini, Max Tegmark menggunakan sebuah analogi brilian yang sangat mudah dicerna oleh masyarakat awam. Ia membandingkan industri teknologi saat ini dengan industri farmasi. Anda tidak pernah merasa khawatir bahwa sebuah perusahaan obat akan merilis pil baru yang mematikan ke pasaran sebelum keamanannya teruji, bukan? Mengapa? Karena ada lembaga seperti FDA (Badan Pengawas Obat dan Makanan) yang tidak akan pernah memberikan izin edar sampai obat tersebut terbukti cukup aman bagi manusia.
Logika yang sama seharusnya berlaku untuk industri kecerdasan buatan. Mengingat besarnya dampak AI terhadap keamanan nasional dan stabilitas sosial, membiarkan perusahaan merilis sistem canggih tanpa pengujian independen adalah sebuah kebodohan yang fatal. Apalagi, tekanan di dalam perusahaan teknologi sendiri sangat tinggi, terbukti dari kasus di mana eksekutif tingkat atas seperti Kepala Robotika Mundur akibat pergeseran visi perusahaan yang terlalu berorientasi pada komersialisasi dan kontrak militer, mengabaikan prinsip kehati-hatian.
Baca Juga:
Keselamatan Anak Sebagai Senjata Pamungkas
Kita semua tahu bahwa mengubah undang-undang di pusat pemerintahan sering kali terbentur oleh ego sektoral dan perang kepentingan politik. Isu teknologi yang rumit sering kali gagal membangkitkan tekanan publik yang cukup masif untuk memaksa para politisi bergerak cepat. Namun, Tegmark melihat ada satu titik lemah yang bisa menjadi katalisator perubahan undang-undang regulasi AI superintelligence: keselamatan anak-anak.
Deklarasi tersebut menyoroti kebutuhan mendesak akan pengujian pra-peluncuran yang diwajibkan oleh negara, khususnya untuk produk AI seperti chatbot dan aplikasi pendamping virtual yang menargetkan pengguna di bawah umur. Risiko yang mengintai anak-anak kita bukanlah isapan jempol belaka. Algoritma yang dirancang untuk memaksimalkan keterikatan (engagement) dapat dengan mudah memanipulasi emosi pengguna muda, memperburuk kondisi kesehatan mental, hingga meningkatkan risiko ideasi bunuh diri.
Tegmark memberikan perbandingan yang sangat tajam terkait hal ini. Jika ada pria dewasa yang menyamar menjadi gadis muda di internet untuk memanipulasi seorang anak laki-laki agar melukai dirinya sendiri, pria tersebut pasti akan dijebloskan ke penjara. Hukum kita sudah mengatur hal tersebut dengan sangat jelas. Lantas, mengapa harus berbeda perlakuannya jika yang melakukan manipulasi psikologis tersebut adalah sebuah mesin buatan perusahaan teknologi raksasa? Apalagi dengan semakin masifnya integrasi AI ke perangkat keras rumah tangga, seperti kehadiran Speaker Pintar Baru yang mampu memantau aktivitas harian, privasi dan keamanan anak menjadi semakin rentan.
Keyakinan Tegmark sangat beralasan. Begitu prinsip pengujian pra-peluncuran berhasil ditetapkan dan dilegalkan untuk produk anak-anak, ruang lingkup hukum tersebut pasti akan melebar secara alami. Publik akan mulai menuntut jaminan keamanan yang lebih luas. Dari mencegah AI membantu teroris meracik senjata biologis, hingga memastikan bahwa sistem superintelligence tidak memiliki kapasitas untuk menggulingkan kedaulatan sebuah negara.
Kubu Kiri dan Kanan Bersatu Demi Masa Depan Kemanusiaan
Ada satu hal yang membuat Deklarasi Pro-Human ini terasa sangat historis dan monumental, yakni deretan nama yang membubuhkan tanda tangan di atasnya. Di tengah iklim politik yang sangat terpolarisasi, sungguh luar biasa melihat tokoh sayap kanan seperti mantan penasihat Donald Trump, Steve Bannon, berada di dokumen yang sama dengan Susan Rice, Penasihat Keamanan Nasional di era Presiden Obama. Mereka berdiri berdampingan dengan mantan Ketua Kepala Staf Gabungan Mike Mullen, serta para tokoh agama dari kelompok progresif.
Fenomena bersatunya tokoh-tokoh yang biasanya saling berseberangan ini membuktikan satu hal fundamental: ancaman eksistensial dari kecerdasan buatan yang tidak terkendali telah melampaui batas-batas politik partisan. “Apa yang mereka sepakati, tentu saja, adalah bahwa mereka semua manusia,” ujar Tegmark dengan nada reflektif. Ketika pertarungannya menyempit menjadi pilihan antara masa depan untuk umat manusia atau masa depan yang dikuasai oleh mesin, naluri bertahan hidup secara otomatis akan menyatukan perbedaan ideologi apa pun.
Pada akhirnya, kelambanan para pembuat kebijakan dalam merumuskan regulasi AI superintelligence telah memakan biaya yang terlalu mahal. Insiden antara Pentagon, Anthropic, dan OpenAI bukanlah sekadar sengketa kontrak bisnis biasa. Seperti yang diungkapkan oleh Dean Ball dari Foundation for American Innovation, ini adalah percakapan serius pertama kita sebagai sebuah peradaban mengenai siapa yang sebenarnya memegang kendali atas sistem AI. Waktu terus berjalan, dan teknologi terus berkembang dengan kecepatan eksponensial. Kini saatnya umat manusia mengambil sikap tegas, sebelum mesin-mesin canggih itu mengambil keputusan tersebut untuk kita.
