Telset.id – Seorang peneliti keamanan senior dari Anthropic menyatakan bahwa terdapat kemungkinan lebih dari 10 persen kecerdasan buatan (AI) “dapat membunuh semua manusia” sebelum akhir dekade ini. Pernyataan ini muncul hanya beberapa jam setelah rekannya mengundurkan diri karena khawatir perusahaan AI dan para pesaingnya berlomba membangun “sistem superhuman” yang tidak dapat mereka kendalikan.
Jacob Coxon, seorang peneliti yang pernah melatih sistem AI di Anthropic dan sebelumnya juga melatih sistem untuk OpenAI, mengumumkan pengunduran dirinya melalui unggahan di platform X. Coxon menuduh kedua perusahaan AI tersebut “berlomba menuju superintelligence yang dapat meningkatkan diri sendiri dan berjudi dengan nyawa kita,” meskipun “orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa AI dapat membunuh kita semua sebelum akhir dekade ini.”
Pengunduran diri Coxon menjadi salah satu contoh paling menonjol dari karyawan yang meninggalkan Anthropic, perusahaan yang didirikan oleh mantan anggota OpenAI setelah adanya kekhawatiran terkait keselamatan di perusahaan tersebut. Dalam beberapa tahun terakhir, sejumlah peneliti juga menyebut masalah keamanan sebagai alasan mereka meninggalkan OpenAI.
Kekhawatiran di Dalam Industri AI
Pelaku industri telah lama menyuarakan kekhawatiran tentang potensi bahaya sistem AI yang dapat meningkatkan diri sendiri. Sistem semacam ini diperingatkan dapat lepas dari kendali manusia dalam lingkaran yang tidak terkendali, sering disebut sebagai recursive self-improvement. Meskipun belum terwujud, perusahaan-perusahaan saat ini secara aktif mengejar tujuan tersebut dan sebagian besar kode AI modern sudah ditulis dengan bantuan AI.
Menanggapi langsung situasi ini, Evan Hubinger, yang memimpin salah satu tim keamanan AI di Anthropic, mengaku khawatir tentang AI yang dapat meningkatkan diri sendiri. Hubinger menambahkan bahwa perkembangan tersebut “terjadi lebih cepat dari yang kami perkirakan.” Ia juga setuju dengan karakterisasi yang disampaikan Coxon.
“Kami benar-benar dengan sungguh-sungguh percaya AI dapat membunuh semua manusia,” ujar Hubinger, yang secara pribadi memperkirakan kemungkinannya lebih besar dari satu banding sepuluh “dalam dekade berikutnya.”
Meskipun memiliki kekhawatiran tersebut, Hubinger mengungkapkan bahwa Anthropic saat ini “belum memiliki rencana” untuk memastikan AI tingkat lanjut tetap aman dan selaras dengan nilai-nilai kemanusiaan. Ia juga menyatakan bahwa perusahaan tersebut “belum jelas berada di jalur yang tepat” untuk mengembangkan rencana tersebut.
Coxon menyebut bahwa perusahaan-perusahaan AI “terkunci dalam perlombaan” untuk mengembangkan sistem canggih terlebih dahulu, sehingga mereka terus maju “meskipun ada risiko.”
Meningkatnya Ketegangan dan Kesiapan IPO
Pertukaran pernyataan antara Coxon dan Hubinger ini menggambarkan meningkatnya kekhawatiran di dalam industri tentang bahaya model AI yang semakin canggih dan kecepatan pengembangan sistem tersebut. Situasi ini menjadi semakin relevan karena perusahaan-perusahaan AI sedang bersiap menghadapi rencana penawaran umum perdana (IPO).
Peristiwa ini juga terjadi di tengah upaya perusahaan-perusahaan AI menangani dampak dari berbagai insiden agen nakal dan peringatan keselamatan tingkat tinggi tentang kemampuan pemantauan model-model frontier.
Kekhawatiran tentang dampak AI terhadap kehidupan manusia memang bukan hal baru. Sebelumnya, banyak pekerja di berbagai negara telah mengkhawatirkan posisi mereka terkait perkembangan teknologi otomasi dan robotika. Kini, kekhawatiran tersebut berkembang ke tingkat yang lebih fundamental, yaitu tentang kelangsungan hidup manusia itu sendiri.
Perdebatan internal di Anthropic ini menunjukkan adanya perbedaan pandangan yang signifikan antara para peneliti yang mengembangkan teknologi AI dan kebijakan perusahaan dalam menghadapi risiko yang mereka yakini nyata. Di satu sisi, para peneliti secara pribadi mengakui adanya risiko besar yang mengancam keberlangsungan umat manusia. Di sisi lain, perusahaan tetap melanjutkan perlombaan pengembangan teknologi karena tekanan kompetitif dan persiapan menuju IPO.
Situasi ini menciptakan dilema etis yang kompleks bagi industri teknologi. Perusahaan-perusahaan AI terkemuka harus menyeimbangkan antara kemajuan teknologi yang cepat dengan tanggung jawab keselamatan publik. Namun, pernyataan dari para peneliti internal menunjukkan bahwa keseimbangan tersebut belum tercapai.
Pengakuan Hubinger bahwa Anthropic “belum memiliki rencana” untuk memastikan keamanan AI tingkat lanjut menjadi sorotan utama. Hal ini mengindikasikan bahwa meskipun perusahaan menyadari risikonya, langkah konkret untuk mengatasinya masih belum tersusun dengan jelas.
Sementara itu, pengunduran diri Coxon menjadi sinyal kuat bahwa sebagian peneliti merasa suara mereka tidak cukup didengar dalam pengambilan keputusan perusahaan. Fenomena ini dapat berdampak pada kemampuan perusahaan AI untuk mempertahankan talenta terbaik mereka di bidang keamanan AI.
Perlombaan pengembangan AI yang semakin cepat juga menimbulkan pertanyaan tentang kesiapan regulasi dan pengawasan dari pemerintah. Jika perusahaan-perusahaan AI sendiri mengakui ketidakmampuan mereka untuk mengendalikan teknologi yang mereka kembangkan, maka peran regulator menjadi semakin krusial.
Namun, hingga saat ini belum ada kerangka regulasi global yang komprehensif untuk mengatur pengembangan AI tingkat lanjut. Setiap negara memiliki pendekatan yang berbeda-beda, sementara teknologi AI berkembang jauh lebih cepat daripada kemampuan regulasi untuk mengikutinya.
Bagi masyarakat umum, pernyataan dari para peneliti AI ini mungkin terdengar seperti skenario film fiksi ilmiah. Namun, fakta bahwa orang-orang yang paling memahami teknologi AI justru menyuarakan kekhawatiran paling keras tentang risikonya seharusnya menjadi perhatian serius.
Perkembangan ini juga berdampak pada persepsi publik terhadap industri AI secara keseluruhan. Kepercayaan publik merupakan aset penting bagi perusahaan teknologi, terutama bagi mereka yang bersiap melantai di bursa saham melalui IPO.
Dalam jangka pendek, pengunduran diri Coxon dan pernyataan Hubinger mungkin tidak akan mengubah arah pengembangan AI secara signifikan. Perusahaan-perusahaan besar memiliki sumber daya dan insentif yang kuat untuk terus maju dalam perlombaan ini.
Namun, dalam jangka panjang, akumulasi kekhawatiran dari para ahli internal dapat mendorong perubahan kebijakan, baik di tingkat perusahaan maupun pemerintah. Tekanan publik yang meningkat juga dapat memaksa perusahaan AI untuk lebih transparan tentang risiko dan langkah-langkah mitigasi yang mereka ambil.
Yang jelas, perdebatan di internal Anthropic ini telah membuka tabir tentang apa yang sebenarnya dipikirkan oleh orang-orang yang berada di garis depan pengembangan AI. Mereka tidak hanya melihat potensi manfaat teknologi ini, tetapi juga risiko eksistensial yang menyertainya.
Pernyataan Hubinger bahwa AI yang dapat meningkatkan diri sendiri “terjadi lebih cepat dari yang kami perkirakan” menunjukkan bahwa laju perkembangan teknologi melampaui antisipasi para ahlinya sendiri. Hal ini menambah urgensi untuk segera menemukan solusi keamanan yang efektif.
Sementara itu, Coxon telah memilih jalan yang berbeda dengan meninggalkan perusahaan tempatnya bekerja. Keputusannya untuk berbicara terbuka di media sosial menunjukkan bahwa ia merasa perlu menyuarakan kekhawatirannya kepada publik secara langsung.
Kisah ini masih akan terus berkembang seiring dengan semakin dekatnya perusahaan-perusahaan AI menuju IPO dan semakin canggihnya sistem yang mereka kembangkan. Pertanyaan besarnya adalah apakah industri ini dapat menemukan keseimbangan antara inovasi dan keselamatan sebelum terlambat.
Komentar
Belum ada komentar.