Telset.id – Perkembangan kecerdasan buatan (AI) yang begitu pesat membuat sistem pemerintahan saat ini tidak mampu mengimbanginya. Hal ini diungkapkan dalam laporan pendahuluan dari Independent International Scientific Panel on Artificial Intelligence PBB.
Panel yang terdiri dari anggota dari seluruh dunia ini akan memberikan informasi yang diperlukan untuk menyelenggarakan UN Global Dialogue on AI Governance. Dialog tersebut dijadwalkan berlangsung di Jenewa mulai 6 Juli 2026, di mana negara-negara anggota akan membahas cara mengelola teknologi AI.
Dalam laporannya, panel tersebut memaparkan bagaimana kemampuan AI telah berevolusi dengan sangat cepat dalam beberapa tahun terakhir. Kompleksitas tugas yang bisa diselesaikan model AI ternyata berlipat ganda setiap beberapa bulan.
Laporan ini mengakui bahwa AI memiliki manfaat besar bagi umat manusia, termasuk mempercepat penemuan obat dan pengembangan vaksin, serta memberikan kontribusi besar pada penelitian resistensi antibiotik. Dokter juga dapat menggunakan AI untuk deteksi dini penyakit, seperti kanker payudara, dan para ilmuwan dapat memanfaatkan AI sebagai sistem peringatan dini untuk kerawanan pangan.
Namun, laporan tersebut juga menguraikan berbagai jenis bahaya baru yang telah dan dapat diciptakan oleh sistem AI. Orang-orang telah menggunakan AI untuk menghasilkan dan mendistribusikan deepfake seksual eksplisit, termasuk materi pelecehan seksual anak, dari orang sungguhan. California meluncurkan penyelidikan terhadap Grok pada Januari lalu terkait deepfake nonkonsensual dan CSAM.
AI juga dapat menghasilkan informasi palsu yang tampak benar, dan penjahat dapat menggunakan sistem AI untuk membantu serangan siber mereka. Beberapa model AI bahkan bisa menjadi penjilat (sycophants) yang memperkuat perilaku berbahaya pengguna, yang bisa berujung pada bunuh diri, menurut laporan tersebut.
Baca Juga:
Panel PBB juga memperingatkan bahwa seiring model AI menjadi semakin otonom, akan semakin sulit untuk memantau dan mengendalikannya. Kekhawatiran lain adalah pembangunan pusat data besar-besaran untuk mendukung sistem AI, yang dapat merugikan komunitas di sekitarnya.
Panel PBB menjelaskan bahwa para pembuat kebijakan kesulitan mengimbangi perkembangan AI karena sistem pemerintahan saat ini tidak dirancang untuk teknologi yang berevolusi begitu cepat. Biasanya, otoritas membutuhkan data ilmiah sebelum memperkenalkan regulasi, tetapi pada saat data tersebut cukup untuk memahami teknologi dengan lebih baik, sistem AI mungkin sudah berkembang lebih jauh.
“Laporan ini menemukan bahwa evaluasi independen yang lebih kuat, kerja sama internasional, dan standar bersama diperlukan untuk memastikan sistem AI tetap aman, transparan, dan dapat dipertanggungjawabkan,” tulis panel tersebut.
Tanpa pengaman yang tepat, teknologi AI “dapat memperdalam ketimpangan, menyebarkan misinformasi, mengancam hak asasi manusia, mengganggu pasar tenaga kerja,” dan bisa menjadi alat yang kuat yang hanya dimiliki oleh “beberapa pemerintah dan perusahaan”.
Laporan tersebut mencatat bahwa akses ke sistem AI sangat terkonsentrasi di negara maju, dan sebagian besar sistem dikembangkan di AS dan China. Sebagian besar negara berkembang tidak memiliki infrastruktur dan keahlian yang diperlukan untuk benar-benar memanfaatkan AI.
“Tantangannya,” kata panel tersebut, “adalah menemukan cara untuk membuka manfaat AI yang sangat besar sambil mencegah risikonya yang semakin besar.”
Panel PBB, yang perannya bersifat ilmiah daripada regulasi, akan terus menilai teknologi AI yang dapat digunakan oleh otoritas untuk mengembangkan kebijakan. Laporan yang lebih komprehensif diharapkan akan diterbitkan tahun depan.
Untuk mengetahui lebih lanjut tentang tuntutan hukum terkait pelanggaran, Anda bisa membaca artikel terkait. Sementara itu, perkembangan AI ini juga menjadi sorotan dalam berbagai laporan media lainnya.
Komentar
Belum ada komentar.