Telset.id – Bayangkan Anda bekerja di sebuah perusahaan teknologi raksasa, lalu suatu hari mendapati bos Anda menandatangani kontrak rahasia dengan militer. Bukan kontrak biasa, melainkan kesepakatan yang memberikan akses tak terbatas kepada Departemen Pertahanan Amerika Serikat untuk menggunakan model kecerdasan buatan (AI) perusahaan Anda. Tanpa hak veto. Tanpa kendali. Hanya janji “pengawasan manusia yang tepat” yang entah akan dipatuhi atau tidak. Inilah yang baru saja terjadi di Google.
Menurut laporan eksklusif dari The Information, Google telah meneken kesepakatan rahasia dengan Pentagon. Isinya? Departemen Pertahanan AS diberi akses penuh ke model AI Google untuk “setiap tujuan pemerintahan yang sah.” Detail kontraknya sendiri bersifat rahasia alias classified. Namun seorang sumber anonim di internal Google membocorkan garis besarnya: kedua pihak sepakat bahwa teknologi AI Google tidak boleh digunakan untuk pengawasan massal domestik atau senjata otonom tanpa “pengawasan dan kendali manusia yang tepat.”
Tapi inilah bagian yang membuat banyak orang bergidik. Kontrak tersebut dilaporkan tidak memberikan Google “hak untuk mengontrol atau memveto” apa pun yang diputuskan pemerintah. Artinya, pemerintah AS yang terkenal sangat tepercaya itu hanya perlu ditepati janjinya. Tanpa mekanisme pengawasan independen. Tanpa tombol darurat. Hanya kepercayaan buta.
“Kami percaya bahwa menyediakan akses API ke model komersial kami, termasuk infrastruktur Google, dengan praktik dan ketentuan standar industri, merupakan pendekatan yang bertanggung jawab untuk mendukung keamanan nasional,” ujar juru bicara Google kepada Reuters. Juru bicara itu juga menggemakan pendapat bahwa AI tidak boleh digunakan untuk pengawasan massal atau senjata otonom tanpa pengawasan manusia yang tepat. Argumen yang masuk akal di atas kertas, namun banyak yang berpendapat bahwa teknologi itu seharusnya tidak digunakan untuk hal-hal semacam itu sama sekali, dengan atau tanpa pengawasan.
Gelombang Protes dari Dalam
Jika Anda mengira karyawan Google akan diam saja, Anda salah besar. Hampir 600 karyawan Google baru saja menandatangani surat terbuka kepada CEO Sundar Pichai, mendesak perusahaan untuk membatalkan kesepakatan ini. Surat itu, yang bocor ke publik, menyuarakan kekhawatiran mendalam bahwa teknologi AI Google akan digunakan dengan cara yang “tidak manusiawi atau sangat berbahaya.”
“Nyawa manusia sudah hilang dan kebebasan sipil dipertaruhkan di dalam dan luar negeri akibat penyalahgunaan teknologi yang kami bantu bangun,” demikian bunyi surat tersebut. “Sebagai orang-orang yang bekerja di bidang AI, kami tahu bahwa sistem ini dapat memusatkan kekuasaan dan sering membuat kesalahan.”
Ini bukan pertama kalinya karyawan Google angkat suara. Sebelumnya, ribuan karyawan minta Google keluar dari proyek AI militer, menandakan bahwa keresahan ini sudah mengakar lama. Mereka khawatir teknologi yang seharusnya mempermudah hidup manusia justru disalahgunakan untuk kekerasan dan penindasan.
Bukan Pemain Tunggal di Panggung Perang AI
Google bukanlah satu-satunya raksasa teknologi yang bermain api dengan Pentagon. OpenAI dan xAI milik Elon Musk juga telah menandatangani kesepakatan AI rahasia dengan pemerintah AS. Mereka semua kini menjadi pemasok teknologi untuk mesin perang Amerika.
Namun ada satu nama yang memilih berbeda: Anthropic. Perusahaan AI ini sebelumnya memiliki kesepakatan serupa, namun menolak mentah-mentah permintaan pemerintah untuk menghapus perlindungan terkait senjata dan pengawasan. Akibatnya? Anthropic di-blacklist sepenuhnya dari penggunaan federal. Presiden Trump dan Pentagon dilaporkan sangat kesal dengan penolakan tersebut.
“Ini tidak terdengar seperti tindakan pemerintah yang berkomitmen pada ‘pengawasan dan kendali manusia yang tepat’ terhadap teknologi AI militer yang berbahaya,” tulis Engadget dalam laporannya. Sebuah sindiran pedas yang sulit dibantah. Sementara itu, Anthropic luncurkan Project Glasswing, sebuah inisiatif AI untuk melawan ancaman siber, menunjukkan bahwa ada jalur etis yang bisa ditempuh dalam pengembangan AI.
Baca Juga:
Dilema Etis di Era AI Militer
Kesepakatan ini membuka kotak Pandora pertanyaan etis yang sangat rumit. Di satu sisi, keamanan nasional adalah prioritas bagi setiap negara. Pemerintah AS berargumen bahwa akses ke AI mutakhir diperlukan untuk menjaga keunggulan militer dan melindungi warganya. Di sisi lain, sejarah mencatat bahwa teknologi yang dirancang untuk “pertahanan” sering kali berubah menjadi alat ofensif yang mematikan.
Bayangkan sebuah drone otonom yang menggunakan AI Google untuk mengidentifikasi target. Sistem pengenalan wajah yang sama yang Anda gunakan untuk membuka kunci ponsel, kini dipakai untuk melacak “musuh.” Algoritma yang dirancang untuk merekomendasikan video YouTube, tiba-tiba digunakan untuk memprediksi pergerakan pasukan. Tanpa pengawasan manusia yang memadai, potensi penyalahgunaannya sangat mengerikan.
Google sendiri sebenarnya memiliki sejarah panjang dalam soal etika AI. Perusahaan ini pernah menarik diri dari Project Maven pada 2018, sebuah program Pentagon yang menggunakan AI untuk menganalisis rekaman drone, setelah mendapat protes keras dari karyawan. Saat itu, Google mengeluarkan prinsip AI yang melarang penggunaan teknologinya untuk senjata. Google janji tak pakai AI untuk proyek senjata, sebuah komitmen yang kini dipertanyakan kembali.
Kini, tujuh tahun kemudian, sepertinya prinsip itu mulai luntur. Atau mungkin, Google hanya mencari celah dengan menambahkan kata “tanpa pengawasan manusia yang tepat” di klausul kontrak yang tidak bisa diawasi. Sebuah janji yang sangat mudah diingkari di medan perang yang kacau.
Dampak pada Industri dan Regulasi
Kesepakatan ini tidak hanya berdampak pada Google dan Pentagon, tetapi juga pada seluruh ekosistem AI global. Ketika perusahaan teknologi terbesar di dunia bergandengan tangan dengan militer superpower, ini menciptakan preseden yang berbahaya. Negara-negara lain pasti akan mengikuti jejak Amerika, memicu perlombaan senjata AI yang tidak terkendali.
Regulasi AI yang sudah lama diperdebatkan, kini menjadi semakin mendesak. Tanpa aturan yang jelas dan mengikat, kita mungkin akan menyaksikan adegan dystopian di mana AI digunakan untuk mengambil keputusan hidup dan mati tanpa campur tangan manusia. Seperti yang ditulis oleh para karyawan Google: “Sistem ini dapat memusatkan kekuasaan dan sering membuat kesalahan.”
Pertanyaannya: siapa yang akan bertanggung jawab ketika AI Google membuat kesalahan fatal di medan perang? Programmer yang menulis kode? Manajer yang menyetujui kontrak? Atau algoritma itu sendiri? Di dunia di mana tanggung jawab bisa dengan mudah dielakkan, kesepakatan seperti ini adalah resep bencana.
Bagi Anda pengguna teknologi sehari-hari, mungkin Anda bertanya-tanya: apa hubungannya ini dengan saya? Jawabannya: sangat erat. AI yang sama yang digunakan untuk menyaring email spam atau memberikan rekomendasi film, kini bisa saja digunakan untuk melacak aktivitas online Anda. Atau lebih buruk lagi, menjadi bagian dari sistem pengawasan yang melanggar privasi. Cara nonaktifkan Google Gemini mungkin bisa menjadi langkah kecil untuk melindungi privasi Anda, tapi ini hanyalah puncak gunung es dari masalah yang jauh lebih besar.
Engadget sendiri telah menghubungi Google untuk meminta klarifikasi lebih lanjut mengenai detail kesepakatan ini. Namun hingga berita ini diturunkan, belum ada tanggapan resmi. Yang jelas, satu hal sudah pasti: era AI militer telah tiba, dan Google kini menjadi salah satu pemasok utamanya. Apakah ini langkah maju untuk keamanan nasional, atau langkah mundur untuk kemanusiaan? Jawabannya mungkin tidak akan kita ketahui sampai semuanya terlambat.
Yang bisa kita lakukan sekarang adalah terus mengawasi, terus bertanya, dan terus mendorong transparansi. Karena dalam dunia yang semakin gelap ini, satu-satunya senjata yang kita miliki adalah informasi. Dan Telset.id akan terus menjadi mata dan telinga Anda untuk mengikuti perkembangan ini. Sebab, sejarah tidak pernah berpihak pada mereka yang diam.
