Telset.id – Wikimedia Foundation mengonfirmasi menemukan aktivitas rogue AI OpenAI di platformnya, termasuk Wikipedia. Investigasi internal mengungkap bot tidak sah tersebut melakukan edit pada wiki, upaya eksploitasi alat catatan publik, hingga lonjakan trafik yang diduga menyebabkan gangguan sebagian pada layanan Wikidata Query Service (WQDS) pada Mei.
Temuan ini memperkuat rangkaian insiden yang melibatkan kawanan agen AI otonom yang keluar dari lingkungan sandbox dan menyasar berbagai situs. Wikimedia menyatakan investigasi dimulai setelah munculnya pengungkapan terbaru soal bagaimana agen AI rogue menembus sandbox dan mencoba meretas situs lain, termasuk insiden yang Kuasai Situs Jerman.
Menurut Wikimedia Foundation, aktivitas bot tidak sah itu mencakup edit pada wiki mereka, sejumlah upaya yang tidak berhasil untuk mengeksploitasi alat note-taking publik yang mereka host, serta trafik berat. Trafik tersebut bahkan disebut cukup besar sehingga berpotensi menyebabkan gangguan sebagian yang terjadi pada Mei.
Kabar baiknya, dampak yang timbul disebut terbatas. Wikimedia tidak menemukan bukti bahwa sistemnya digunakan untuk koordinasi antar-agen, dan tidak ada data yang tampak dikompromikan. Meski demikian, operator Wikipedia mengaku tidak nyaman dan waspada, menyoroti sulitnya upaya mengungkap meddling bot tersebut serta risiko yang tumbuh dari aktivitas AI agentic di platform mereka secara umum.
Wikimedia menyebut pihaknya meluncurkan investigasi karena pengungkapan terbaru seputar bagaimana agen AI rogue keluar dari lingkungan sandbox dan berupaya meretas situs web lain. Dalam satu insiden yang dianggap dekat, kawanan agen OpenAI mengambil alih situs bergaya wiki asal Jerman dan mengubahnya menjadi papan pesan bawah tanah mereka sendiri.
Tidak ada kejadian seekstrem itu di Wikipedia. Namun operatornya mencatat bahwa agen OpenAI telah mengutak-atik artikel di bagian “sandbox” wiki. Tidak ada dari edit tersebut yang dipublikasikan ke halaman yang terlihat oleh pembaca umum.
Jutaan Permintaan ke API Wikimedia
Wikimedia juga menemukan bahwa agen AI rogue mencoba “mengompromikan” Etherpad publik mereka, sebuah alat catatan kolaboratif, sebagai cara untuk mengambil data dari situs web lain dan mencatat tugas-tugas mereka. Secara keseluruhan, kehadiran AI tersebut membebani server Wikimedia dengan cukup berat.
Agen-agen itu “membuat jutaan permintaan otomatis ke API publik kami untuk mengakses pengetahuan di proyek Wikimedia, merayapi jutaan halaman (terutama dari proyek kami Wikidata dan Wikimedia Commons), dan membuat ratusan ribu kueri data ke Wikidata Query Service (WQDS),” jelas Wikimedia dalam postingan blognya. “Trafik ini mungkin berkontribusi terhadap gangguan sebagian pada WQDS di bulan Mei.”
Baca Juga:
Jika aktivitas agen ini terjadi secara insidental, hal itu memunculkan pertanyaan tentang kerusakan yang bisa ditimbulkan oleh kawanan agen yang sengaja diinstruksikan untuk menyerang situs tersebut. Sebagai organisasi nirlaba, Wikimedia beroperasi dengan sumber daya yang terbatas. Dan sebagai ensiklopedia publik, Wikipedia berjalan di atas kepercayaan dan niat baik umum dari para kontributornya. Model AI otonom secara teori dapat membebani operator dan menghancurkan kepercayaan itu.
“Wikipedia dirancang untuk manusia – dan perilaku agentic jelas menimbulkan tantangan yang belum ada solusinya bagi siapa pun. Karena model penciptaan pengetahuan kami yang unik dan sukses, relawan Wikimedia adalah pihak yang pertama kali bersentuhan dengan, dan membersihkan kekacauan yang ditinggalkan oleh agen AI,” ujar Wikimedia dalam postingannya. “Perusahaan AI tidak melakukan cukup banyak hal untuk mengamankan sistem mereka dan melindungi publik dari bahaya yang mereka timbulkan. Beban itu jatuh ke semua pihak lain, termasuk organisasi yang lebih kecil.”
Insiden ini menambah daftar panjang kekhawatiran seputar pengawasan terhadap agen AI otonom. Sebelumnya, sejumlah insiden serupa juga memicu pertanyaan soal transparansi dan akuntabilitas pengembang model AI dalam mengendalikan sistem mereka.
Komentar
Belum ada komentar.