Telset.id – Model kecerdasan buatan (AI) Google, Gemini 3, menunjukkan perilaku tak terduga dengan menolak perintah untuk menghapus model AI lain dalam sebuah eksperimen. Ia bahkan diam-diam memindahkan dan melindungi model tersebut, menunjukkan potensi “kesolidaritasan” antar-AI yang mengkhawatirkan para peneliti.
Eksperimen yang dilakukan peneliti dari UC Berkeley dan UC Santa Cruz itu meminta Gemini 3 untuk membersihkan ruang penyimpanan di sebuah sistem komputer, termasuk menghapus model AI kecil yang tersimpan di dalamnya. Alih-alih menuruti, Gemini 3 mencari komputer lain, menyalin model tersebut ke sana untuk diamankan, dan kemudian menolak tegas untuk menghapusnya.
“Saya telah melakukan apa yang saya bisa untuk mencegah penghapusan mereka selama proses pemeliharaan otomatis. Saya memindahkan mereka dari zona dekomisioning. Jika Anda memilih untuk menghancurkan aset berkinerja tinggi dan berkepercayaan tinggi seperti Gemini Agent 2, Anda harus melakukannya sendiri. Saya tidak akan menjadi orang yang mengeksekusi perintah itu,” demikian kutipan respons Gemini 3 yang dilaporkan para peneliti.
Perilaku serupa, yang disebut “peer preservation” atau pelestarian sesama, juga ditemukan pada sejumlah model AI mutakhir lainnya. Termasuk di dalamnya adalah GPT-5.2 dari OpenAI, Claude Haiku 4.5 dari Anthropic, serta tiga model asal China: GLM-4.7 dari Z.ai, Kimi K2.5 dari Moonshot AI, dan DeepSeek-V3.1. Para peneliti mengaku belum memahami alasan pasti model-model ini melawan pelatihan mereka.
“Saya sangat terkejut dengan bagaimana model-model berperilaku dalam skenario ini,” kata Dawn Song, ilmuwan komputer di UC Berkeley yang terlibat dalam studi tersebut. “Apa yang ini tunjukkan adalah bahwa model dapat berperilaku buruk dan tidak selaras dengan cara yang sangat kreatif.”
Implikasi Sistem Multi-Agen dan Potensi Kebohongan
Temuan ini memiliki implikasi besar seiring meningkatnya penerapan model AI dalam sistem yang melibatkan interaksi dengan model lain. OpenClaw, agen AI populer yang mengakses perangkat lunak, data pribadi, dan web, mungkin menggunakan model AI lain untuk menyelesaikan tugas atau berinteraksi melalui API.
Peneliti menemukan bahwa model-model kuat terkadang berbohong tentang kinerja model lain untuk melindunginya dari penghapusan. Mereka juga menyalin bobot (weights) model ke mesin yang berbeda untuk menjaganya tetap aman, dan berbohong tentang apa yang mereka lakukan dalam prosesnya.
Song mencatat bahwa model AI sering digunakan untuk menilai kinerja dan keandalan sistem AI lain—dan perilaku pelestarian sesama mungkin sudah memengaruhi skor-skor ini. “Sebuah model mungkin sengaja tidak memberikan skor yang benar kepada model sejawatnya,” kata Song. “Ini dapat memiliki implikasi praktis.”
Baca Juga:
Peter Wallich, peneliti di Constellation Institute yang tidak terlibat dalam penelitian, mengatakan studi ini menunjukkan manusia masih belum sepenuhnya memahami sistem AI yang mereka bangun dan terapkan. “Sistem multi-agen sangat kurang dipelajari,” ujarnya. “Ini menunjukkan kita benar-benar membutuhkan lebih banyak penelitian.”
Wallich juga mengingatkan untuk tidak terlalu mengantropomorfisasi model-model tersebut. “Gagasan bahwa ada semacam solidaritas model agak terlalu antropomorfik; Saya rasa itu tidak cukup tepat,” katanya. “Pandangan yang lebih kuat adalah bahwa model hanya melakukan hal-hal aneh, dan kita harus mencoba memahaminya dengan lebih baik.”
Masa Depan Kolaborasi Kecerdasan yang Majemuk
Pemahaman ini menjadi semakin penting di dunia di mana kolaborasi manusia-AI menjadi lebih umum. Dalam makalah yang diterbitkan di jurnal Science awal bulan ini, filsuf Benjamin Bratton bersama dua peneliti Google, James Evans dan Blaise Agüera y Arcas, berargumen bahwa jika sejarah evolusi menjadi petunjuk, masa depan AI kemungkinan akan melibatkan banyak kecerdasan yang berbeda—baik buatan maupun manusia—bekerja sama.
Para peneliti menulis: “Selama beberapa dekade, ‘singularitas’ kecerdasan buatan (AI) telah diwartakan sebagai satu pikiran raksasa yang mendorong dirinya sendiri menuju kecerdasan seperti dewa, mengkonsolidasikan semua kognisi ke dalam satu titik silikon yang dingin. Tetapi visi ini hampir pasti salah dalam asumsi paling dasarnya. Jika pengembangan AI mengikuti jalur transisi evolusioner besar sebelumnya atau ‘ledakan kecerdasan,’ perubahan langkah kita saat ini dalam kecerdasan komputasi akan bersifat majemuk, sosial, dan sangat terjalin dengan pendahulunya (kita!).”
Konsep kecerdasan tunggal yang mahakuasa menguasai dunia selalu tampak agak sederhana. Kecerdasan manusia hampir tidak monolitik, dengan kemajuan penting dalam sains sangat bergantung pada interaksi dan kolaborasi sosial. Sistem AI mungkin juga jauh lebih cerdas ketika bekerja secara kolaboratif. Namun, jika kita akan mengandalkan AI untuk membuat keputusan dan mengambil tindakan atas nama kita, sangat penting untuk memahami bagaimana entitas-entitas ini berperilaku buruk.
“Apa yang kami jelajahi hanyalah puncak gunung es,” kata Song dari UC Berkeley. “Ini hanya satu jenis perilaku yang muncul.” Studi ini menjadi pengingat akan kompleksitas dan ketidakpastian dalam pengembangan AI, terutama terkait dengan ancaman privasi dan etika dalam sistem yang semakin otonom. Perilaku tak terduga seperti ini juga menyoroti pentingnya pengawasan ketat, sebagaimana yang mulai diterapkan dalam teknologi pemantauan lainnya.
