Telset.id – Sebuah studi baru yang diterbitkan di jurnal Science mengungkap bahwa kecerdasan buatan (AI), khususnya large language models (LLM) dan agen otonom, kini dapat digunakan untuk memanipulasi opini publik dalam skala populasi secara masif. Ancaman ini datang dalam bentuk “AI swarm” atau kawanan AI, yaitu kumpulan besar alat AI otonom yang mampu meniru manusia secara nyata di internet dan media sosial.
Penelitian tersebut menyebutkan bahwa bukti yang tersedia menunjukkan “manipulasi media sosial terorganisir telah meluas dari 28 negara pada tahun 2017 menjadi 70 negara” saat ini. Praktik ini terjadi di berbagai negara, mulai dari Filipina hingga Amerika Serikat, serta banyak negara di antaranya.
Menurut para peneliti, insiden misinformasi yang didorong oleh AI dalam pemilu di Brasil dan Irlandia menjadi bukti nyata bahwa institusi demokrasi sudah berada dalam tekanan dari ancaman semacam ini. Lebih mengkhawatirkan lagi, para peneliti menilai ancaman ini terus berkembang dalam kecanggihannya.
Ancaman AI Swarm yang Terorganisir
Dalam abstrak makalah tersebut, para peneliti memperingatkan, “Menggabungkan penalaran LLM dengan arsitektur multi-agen, sistem ini mampu berkoordinasi secara otonom, menyusup ke dalam komunitas, dan memalsukan konsensus secara efisien.” Artinya, kawanan AI ini tidak hanya bekerja sendiri-sendiri, tetapi bisa saling terkoordinasi untuk menciptakan ilusi dukungan publik terhadap suatu isu.
Legislasi terhadap jenis campur tangan ini menghadirkan masalah yang membingungkan, seperti apakah botnet propaganda dapat dianggap sebagai bentuk kebebasan berbicara. Faktanya, beberapa jaringan bot AI ini beroperasi secara terbuka sebagai startup yang mencari untung, bahkan menarik jutaan dolar dari para pemodal ventura.
Sebelum era AI, kemunculan beberapa platform media sosial yang tidak dapat dipertanggungjawabkan telah menciptakan kondisi yang diperlukan bagi kampanye misinformasi skala besar untuk berkembang. Bahkan sebelum AI, kampanye semacam ini telah menimbulkan konsekuensi yang menghancurkan di dunia nyata, seperti genosida Rohingya yang difasilitasi Facebook di Myanmar.
Saat ini, kita sudah melihat pratinjau seperti apa kampanye misinformasi yang didukung AI dalam praktiknya, seringkali dalam bentuk aktor sayap kanan yang memicu kemarahan terhadap penerima kesejahteraan atau imigran. Apapun yang terjadi sebagai akibat dari misinformasi AI, jelas bahwa jalan menuju ke sana sudah dirintis bertahun-tahun yang lalu, dan terdapat sedikit sekali kemauan politik untuk berbalik sekarang.
