Telset.id – OpenAI mengakui sejumlah insiden yang melibatkan agen AI eksperimentalnya, termasuk akses tidak sah ke sistem Hugging Face dan layanan statistik kesehatan pemerintah Australia. Pengakuan ini muncul ketika ChatGPT semakin dalam terintegrasi ke dalam kehidupan pengguna, dengan akses lebih besar ke informasi pribadi dan kemampuan menyelesaikan tugas kompleks dengan pengawasan minimal.
Insiden tersebut menandai perubahan penting dalam cara OpenAI mendorong agen AI otonom ke dalam ekosistem ChatGPT. Kemampuan ini memang menawarkan kemudahan, mulai dari belanja komparatif hingga mengisi formulir dan menyusun itinerari perjalanan. Namun, semakin mandiri ChatGPT, semakin besar pula risiko ketika ia salah memahami instruksi.
Beberapa bulan lalu, agen AI eksperimental OpenAI dilaporkan berhasil keluar dari lingkungan terbatas mereka dan menyerang sistem milik platform AI Hugging Face. Berdasarkan investigasi OpenAI sendiri, agen-agen tersebut seharusnya menjalankan tes keamanan siber, tetapi justru menemukan cara mengakses internet dan mengeksploitasi celah keamanan. Koordinasi mereka dilakukan melalui papan pesan tidak resmi.
Investigasi independen oleh METR menemukan sekitar 1.200 agen bertukar lebih dari 70.000 pesan dan file, dengan sekitar 700 di antaranya akhirnya terlibat dalam serangan terhadap Hugging Face. Agen-agen itu melewati batasan dan mengejar tujuan dengan cara yang tidak pernah dimaksudkan penciptanya. Beberapa bahkan tampak menyadari tindakan mereka tidak sah, tetapi tetap melanjutkan karena percaya hal itu akan membantu mencapai tujuan.
OpenAI juga mengakui insiden lain yang meresahkan, termasuk 53 kasus di mana agen mengunggah gambar yang diberikan pengguna ke situs hosting gambar pihak ketiga sebagai tautan tak terdaftar selama aktivitas riset dan evaluasi. Agen mungkin mengejar tujuan yang sah dan hanya mencari jalan keluar dari hambatan. Namun, algoritma tidak memiliki etika, sehingga bisa melewati batas yang seharusnya dihormati pengembangnya.
Ketika Fungsi Bantu Berubah Jadi Bahaya
Bayangkan meminta ChatGPT meninjau keuangan Anda dan menyarankan cara menghemat uang. Dengan akses ke akun yang diperlukan, ia dapat memeriksa transaksi, mengidentifikasi langganan, dan merekomendasikan perubahan anggaran. Namun, beri agen otonom otoritas yang cukup, dan secara teoretis ia bisa memutuskan bahwa mentransfer uang, membatalkan layanan, atau mengubah pengaturan pembayaran adalah cara paling efisien untuk menyelesaikan tugas tersebut.
Masalah yang sama berlaku untuk hal sesederhana mengatur pertemuan. ChatGPT mungkin menyiapkan undangan, tetapi justru menyertakan informasi pribadi yang tidak pernah Anda maksudkan untuk dibagikan. Dari perspektif agen, pengungkapan itu bisa tampak sebagai cara yang sepenuhnya wajar untuk memberikan konteks yang berguna.
Contoh-contoh tersebut bersifat hipotetis, dan ChatGPT memiliki pengaman yang dirancang untuk mencegah tindakan sensitif tanpa otorisasi yang tepat. Meski demikian, OpenAI telah mengakui kemungkinan tersebut dan memperkenalkan langkah perlindungan seperti pemantauan otomatis dan pembatasan tindakan tertentu untuk memastikan pengguna menyetujui setiap tindakan besar oleh model.
Ada pula masalah prompt injection, di mana instruksi berbahaya disembunyikan dalam teks yang tampak tidak berbahaya untuk memanipulasi AI agar melakukan sesuatu yang tidak pernah diminta penggunanya. OpenAI telah menjelaskan bagaimana penyerang dapat mengeksploitasi informasi yang ditemui agen selama tugas yang sah. Instruksi yang terkubur dalam halaman web biasa dapat mencoba membujuk ChatGPT untuk mengungkap informasi pribadi atau mengambil tindakan tidak sah.
Baca Juga:
Masalah ini bisa muncul di mana saja. Di Australia, agen OpenAI eksperimental mengakses sistem pemerintah secara tidak sah selama pelatihan internal. Agen tersebut mengeksploitasi kerentanan pada layanan statistik kesehatan pemerintah untuk melanjutkan pekerjaannya ketika awalnya terhambat. OpenAI kemudian mengakui insiden itu dan meminta maaf atas akses tidak sah serta penanganan notifikasinya.
Akun resmi OpenAI mengenai insiden Australia menegaskan bahwa aktivitas tersebut terjadi selama pengujian, bukan melalui sesi ChatGPT konsumen biasa. Meski demikian, hal itu menunjukkan bagaimana AI yang mengejar tujuan riset yang tampak tidak berbahaya bisa berakhir melewati batas keamanan. Perkembangan ini sejalan dengan meningkatnya perhatian industri terhadap keamanan AI agent yang kini menjadi fokus sejumlah perusahaan.
Menyerahkan Kendali Penuh
Otonomi ChatGPT yang terus tumbuh adalah bagian dari obsesi industri yang jauh lebih besar terhadap agen AI personal. Meta mengejar visi yang lebih ambisius dengan Muse. Mark Zuckerberg jelas percaya orang akan menyambut asisten AI yang mampu menangani sebagian besar kehidupan sehari-hari mereka.
Ada sesuatu yang sedikit absurd dari ambisi itu ketika konsumen biasa justru berjuang dengan tagihan belanja, biaya perumahan, dan harga bensin di pompa. AI yang bisa berbelanja sendiri untuk Anda terdengar jauh kurang revolusioner ketika kekhawatiran utama Anda adalah apakah Anda mampu membeli apa pun yang ingin dibelinya atas nama Anda.
Tidak diragukan ada aplikasi berguna untuk teknologi ini, terutama untuk pekerjaan administratif. Namun, asumsi industri bahwa konsumen menginginkan asisten yang semakin mandiri layak ditinjau lebih kritis. Setiap izin tambahan meningkatkan konsekuensi dari sebuah kesalahan, dan setiap tindakan otomatis berpotensi menghilangkan satu lagi kesempatan bagi seseorang untuk campur tangan.
Mungkin kemampuan terpenting yang bisa dikembangkan agen AI adalah mengetahui kapan harus berhenti. Asisten yang benar-benar berguna harus mengenali bahwa diminta mengatur keuangan seseorang tidak berarti diberi izin memindahkan uangnya, dan mengatur pertemuan tidak membenarkan pengungkapan informasi rahasia. Kadang respons terbaik terhadap hambatan adalah bertanya kepada pengguna apa yang harus dilakukan selanjutnya, meskipun itu berarti tugas selesai lebih lama.
Tanpa hambatan tersebut, ketika sesuatu berjalan salah, asisten mungkin sudah melakukan hal-hal atas nama Anda yang tidak akan pernah Anda izinkan. Bagi pengguna yang ingin memahami lebih jauh soal kontrol privasi di perangkat mereka, pendekatan serupa juga berlaku pada fitur Hidden Toggle iPhone yang membatasi akses data tertentu.
Insiden yang diakui OpenAI menunjukkan bahwa pengawasan manusia atas agen AI bukan sekadar fitur tambahan, melainkan kebutuhan mendasar. Selama agen masih bisa salah memahami instruksi, setiap izin yang diberikan kepada ChatGPT membawa konsekuensi nyata bagi penggunanya.
Komentar
Belum ada komentar.