Telset.id – Enam bank raksasa dunia melontarkan peringatan serius mengenai risiko keamanan saat teknologi kecerdasan buatan (artificial intelligence/AI) diberi wewenang penuh untuk melakukan transaksi keuangan atas nama pengguna. Peringatan ini dirilis melalui dokumen bertajuk “Building Trust in Agentic Commerce”, yang mendesak para pengembang dan perusahaan teknologi memprioritaskan aspek keamanan dan transparansi saat merancang fitur belanja berbasis AI. Langkah ini menyoroti tren belanja pakai agen AI yang dinilai dapat membuka celah kejahatan siber, potensi pemborosan, hingga memicu sengketa pembayaran.
Mengutip laporan dari Mashable, Jumat (25/9/2026), sektor perbankan menilai masyarakat belum sepenuhnya memahami apakah agen AI tersebut benar-benar bekerja demi kepentingan finansial mereka. Masalah krusial berpotensi muncul ketika sistem AI keliru membeli barang, menghabiskan anggaran secara berlebihan, hingga dana pengguna tersedot akibat tindak kejahatan siber. Inisiatif ini melibatkan enam lembaga keuangan, yaitu Bank of America, Capital One, ASB Bank, Commonwealth Bank of Australia, ING Group, dan NatWest Group.
Mengenal Agentic Commerce dan Bahayanya
Istilah agentic commerce merujuk pada aktivitas perdagangan digital di mana agen AI diberi delegasi hak akses untuk mengambil keputusan sekaligus mengeksekusi transaksi secara independen, bukan sekadar memberikan rekomendasi produk kepada pengguna. Perkembangan model belanja otomatis ini sejalan dengan langkah sejumlah pemain industri, seperti Meta Rilis Muse, yang memperlihatkan bagaimana agen AI mulai mengambil peran aktif dalam transaksi digital.
Ancaman ini juga bersumber dari mekanisme pemrosesan pembayaran. Beberapa layanan AI terdeteksi meminta data kartu kredit/debit pengguna secara langsung untuk dimasukkan ke situs belanja, atau memilih metode pembayaran yang memiliki skema perlindungan konsumen yang minim. Kondisi ini memperbesar risiko kebocoran data sensitif sekaligus memperumit upaya penelusuran ketika terjadi sengketa transaksi.
Tak hanya merugikan konsumen, para pelaku kejahatan siber (hackers) dapat memanfaatkan celah ini dengan menyamar sebagai agen AI maupun pedagang (merchant). Mereka berpotensi mengoperasikan teknik manipulasi sosial (social engineering) untuk membobol sistem dan mencuri data sensitif maupun uang milik korban. Dampak buruknya turut membayangi para penjual, karena kekeliruan yang dibuat oleh agen AI diprediksi bakal meningkatkan klaim chargeback atau permintaan pengembalian dana (refund) dari pelanggan secara masif.
Baca Juga:
Menariknya, penerbitan dokumen peringatan oleh enam bank ini bertepatan dengan dinamika industri teknologi yang sedang memanas. Laporan tersebut rilis hanya berselang 24 jam setelah ditemukannya kerentanan zero-day pada agen AI milik Meta, Muse. Bahkan, beberapa jam setelahnya, raksasa e-commerce Amazon mengumumkan langkah tegas untuk memblokir Meta Muse agar tidak dapat melakukan pembelian otomatis di platform mereka.
Pihak perbankan menegaskan, meskipun agentic commerce memiliki potensi besar dalam mengubah masa depan transaksi digital, jaminan perlindungan hukum dan sistem keandalan teknis bagi konsumen maupun pedagang harus disiapkan secara matang terlebih dahulu. Hal ini sejalan dengan kekhawatiran yang juga muncul di sektor pembayaran, seperti yang tampak dari langkah Visa Luncurkan AI Agent untuk belanja otomatis.
Usulkan 5 Prinsip Utama untuk Industri AI
Menanggapi berbagai risiko tersebut, keenam bank global menyepakati usulan lima prinsip utama yang harus diterapkan dalam ekosistem agentic commerce:
- Transparansi: Pengguna dan pedagang wajib mengetahui secara pasti saat AI terlibat dalam transaksi, termasuk memahami logika dasar pengambilan keputusan sistem.
- Keamanan (Safety): Perusahaan AI dan penyedia layanan diminta menjamin keamanan konsumen serta pedagang melalui metode pembayaran terenkripsi.
- Privasi dan Perlindungan Data: Konsumen harus memegang kendali penuh atas data pribadi dan informasi finansial mereka.
- Kebebasan Memilih (Choice): Pengguna tetap memiliki hak bebas memilih metode pembayaran atau layanan tanpa dibatasi oleh batasan sistem tertentu.
- Interoperabilitas (Interoperability): Kemampuan berbagai platform dan sistem yang berbeda untuk saling terhubung secara aman tanpa menyisakan celah kerentanan.
Meskipun saat ini kelima prinsip tersebut masih bersifat usulan dan panduan sukarela dari sektor perbankan, inisiatif ini mempertegas bahwa lonjakan adopsi kecerdasan buatan dalam lanskap e-commerce membawa tantangan baru. Keamanan sistem dan proteksi konsumen kini menjadi aspek yang tidak bisa ditawar lagi.
Usulan standar ini muncul di tengah meningkatnya eksperimen agen AI yang dirancang untuk bertransaksi secara mandiri, termasuk yang menyasar aktivitas belanja harian. Sejumlah pengembang berlomba menghadirkan kemampuan serupa, sejalan dengan tren yang turut terlihat pada inovasi seperti Hark Handoff yang memungkinkan agen AI berbelanja hingga memesan makanan.
Dengan belum adanya kerangka perlindungan yang mengikat, perhatian industri kini tertuju pada sejauh mana pengembang teknologi dan perusahaan AI menindaklanjuti lima prinsip tersebut. Bagi konsumen maupun pedagang, kepastian soal siapa yang bertanggung jawab ketika agen AI melakukan kesalahan transaksi menjadi pertanyaan yang menuntut jawaban sebelum adopsi agentic commerce meluas.
Komentar
Belum ada komentar.