Telset.id – Asisten belanja berbasis kecerdasan buatan (AI) di Amazon dan Walmart disebut sengaja menyembunyikan produk buatan Amerika Serikat dari hasil pencarian. Sebuah laporan baru dari Columbia Law School mengungkap praktik yang dinilai merugikan konsumen dan produsen lokal.
Para peneliti di Center for Law and the Economy, Columbia Law School, menerbitkan laporan berjudul Made in America, Hidden by AI. Laporan tersebut menguji bagaimana alat belanja AI milik Amazon dan Walmart merespons pertanyaan tentang produk buatan Amerika Serikat. Hasilnya, chatbot Amazon kerap menolak menjawab pertanyaan langsung mengenai produk tersebut, namun dengan mudah menjawab pertanyaan serupa untuk produk buatan China.
“Kami menguji sistem ini seperti cara seorang insinyur bekerja, dan penolakan itu runtuh saat diuji secara mendasar,” ujar Erie Meyer, peneliti senior di Center for Law and the Economy dan salah satu penulis laporan. “Datanya ada, tetapi desainnya dibuat untuk menyembunyikannya.”
Laporan ini muncul di tengah meningkatnya penggunaan asisten AI sebagai gerbang utama belanja online. Baik untuk merekomendasikan produk, membandingkan alternatif, hingga merangkum ulasan, asisten-asisten ini menjadi langkah pertama bagi banyak pembeli. Menurut laporan, baik Amazon maupun Walmart saat ini tidak menyediakan filter khusus “Made in USA” bagi pembeli, meskipun mereka menawarkan ratusan opsi filter lainnya di berbagai kategori produk.
Para peneliti berpendapat, jika asisten AI menjadi antarmuka utama untuk belanja online, cara mereka memilih informasi yang ditampilkan atau disembunyikan dapat memengaruhi keputusan pembelian dalam skala besar. Hal ini sejalan dengan temuan bahwa sistem AI yang semakin canggih tetap dibentuk oleh insentif bisnis di belakangnya.
Lina Khan, direktur Center for Law and the Economy dan mantan ketua Federal Trade Commission, mengatakan bahwa temuan ini menunjukkan sistem AI yang semakin canggih masih dibentuk oleh insentif di baliknya. “Bahkan saat alat AI terus tumbuh dalam kecanggihan dan kemampuan, insentif bisnis akan membentuk bagaimana kemajuan ini digunakan,” kata Khan. “Pembuat kebijakan dan penegak hukum memiliki peran penting untuk memastikan publik tidak dirugikan.”
Salah satu temuan menarik lainnya adalah kemampuan sistem AI kedua perusahaan untuk mengidentifikasi klaim “Made in USA” yang mencurigakan. Chatbot Amazon disebut mampu mengidentifikasi daftar produk di mana materi promosi mengklaim produk tersebut buatan Amerika, meskipun ada bukti yang menunjukkan produk itu diimpor. Sementara itu, chatbot Walmart disebut memberi peringkat pada klaim “Made in USA” berdasarkan seberapa mencurigakan klaim tersebut, dengan mempertimbangkan faktor seperti informasi penjual dan jejak manufaktur.
Para penulis laporan berpendapat bahwa hal ini menunjukkan sistem AI yang mendasarinya memiliki kemampuan teknis untuk membantu mengidentifikasi klaim asal-usul yang meragukan. Namun, laporan tersebut tidak menyatakan bahwa Amazon atau Walmart secara internal menggunakan kemampuan ini untuk penegakan aturan di pasar mereka.
Amazon memberikan tanggapan resmi kepada Reuters. “Informasi negara asal, jika tersedia, saat ini ditampilkan di halaman detail produk, dan kami terus berupaya meningkatkan Alexa for Shopping untuk membuat informasi ini lebih mudah diakses oleh pelanggan,” ujar juru bicara Amazon. Walmart tidak segera menanggapi permintaan komentar dari Reuters.
Baca Juga:
Laporan ini menyoroti pertanyaan yang kemungkinan akan menjadi semakin penting seiring asisten belanja AI terus menggantikan pencarian tradisional. Jika konsumen mengandalkan AI untuk memutuskan produk apa yang akan dibeli, pilihan desain di balik sistem tersebut menjadi jauh lebih penting. Keputusan tentang produk mana yang ditampilkan lebih dulu, atribut mana yang ditekankan, dan pertanyaan mana yang mendapat jawaban lengkap, dapat membentuk perilaku pembelian dengan cara yang sebagian besar tidak terlihat oleh pembeli.
Penggunaan asisten AI sebagai gatekeeper belanja online menimbulkan kekhawatiran baru tentang transparansi dan keadilan. Konsumen yang mencari produk buatan lokal mungkin tidak menyadari bahwa hasil pencarian mereka telah dibatasi oleh desain sistem. Panduan lengkap untuk memaksimalkan fitur belanja digital kini menjadi semakin relevan di tengah perubahan ini.
Implikasi dari laporan ini sangat luas, terutama bagi produsen kecil yang mengandalkan platform e-commerce besar untuk menjangkau konsumen. Jika sistem AI secara sistematis menyembunyikan produk mereka, hal ini dapat memperburuk ketidakseimbangan pasar yang sudah ada. Perubahan fitur pada platform belanja sosial juga menunjukkan dinamika yang terus berubah dalam lanskap e-commerce.
Laporan ini juga menyoroti pentingnya regulasi untuk memastikan bahwa sistem AI tidak digunakan secara tidak adil. Lina Khan menekankan bahwa pembuat kebijakan harus turun tangan untuk melindungi konsumen. “Pembuat kebijakan dan penegak hukum memiliki peran vital untuk memastikan publik tidak dirugikan,” tegasnya.
Ke depannya, konsumen mungkin perlu lebih waspada saat menggunakan asisten belanja AI. Memverifikasi informasi secara manual dan menggunakan berbagai sumber dapat membantu mengurangi risiko terpapar bias sistem. Namun, pada akhirnya, tanggung jawab untuk memastikan transparansi terletak pada platform e-commerce dan regulator.
Dengan semakin terintegrasinya AI dalam kehidupan sehari-hari, temuan ini menjadi pengingat bahwa teknologi bukanlah entitas netral. Keputusan desain yang dibuat oleh perusahaan dapat memiliki konsekuensi nyata bagi konsumen dan produsen. Laporan dari Columbia Law School ini memberikan bukti awal bahwa kekhawatiran tersebut bukan tanpa dasar.
Amazon dan Walmart, sebagai dua raksasa e-commerce terbesar di dunia, memiliki pengaruh besar terhadap bagaimana produk ditemukan dan dibeli. Jika tuduhan dalam laporan ini terbukti benar, hal itu dapat memicu gelombang baru regulasi tentang transparansi AI dalam e-commerce. Konsumen dan produsen sama-sama berhak mendapatkan sistem yang adil dan transparan.
Penelitian lebih lanjut mungkin diperlukan untuk memahami sepenuhnya sejauh mana praktik ini terjadi. Namun, laporan awal ini sudah cukup untuk menimbulkan pertanyaan serius tentang peran AI dalam membentuk pilihan konsumen. Di era di mana algoritma semakin menentukan apa yang kita lihat dan beli, transparansi menjadi lebih penting dari sebelumnya.
Komentar
Belum ada komentar.