Kalshi Disebut Ubah YouTuber Jadi Pria Kulit Putih di Iklan AI

Telset.id – Platform taruhan Kalshi kembali menjadi sorotan setelah tech YouTuber Elliott Choy menemukan bahwa salah satu videonya telah diubah menjadi iklan berteknologi AI yang ia terima di YouTube. Dalam iklan tersebut, Kreator keturunan Asia-Amerika itu diubah “menjadi pria kulit putih” yang tidak eksis. Temuan ini memperkuat kekhawatiran publik terhadap praktik pemasaran berbasis AI yang mengorbankan konten buatan pengguna tanpa izin.

Choy mengungkapkan temuannya hanya beberapa jam setelah Stanford University tertangkap menggunakan AI untuk mengganti seorang mahasiswa dalam sebuah foto dan menempatkannya dengan sosok perempuan kulit hitam yang tidak eksis. Ironisnya, Choy selama ini dikenal membagikan iklan untuk asisten Claude milik perusahaan AI Anthropic. Video asli yang dijiplak Kalshi berisi tentang kepindahan Choy ke apartemen barunya di New York City dan pertama kali diunggah pada September tahun lalu.

Koresponden NPR Bobby Allyn kemudian mengonfirmasi bahwa iklan Kalshi yang bermasalah tersebut memang nyata. Seorang perwakilan perusahaan menyatakan bahwa iklan itu “lama dan mereka tidak lagi menggunakan iklan yang dihasilkan AI.” Perwakilan tersebut juga menyebut bahwa pihaknya sedang “meninjau hubungan kami dengan” agensi yang membuat iklan tersebut.

Sejumlah pertanyaan masih belum terjawab. Belum diketahui agensi mana yang dikontrak Kalshi untuk membuat iklan tersebut, berapa banyak influencer yang kontennya dijiplak perusahaan, atau apakah perusahaan berniat secara proaktif memperbaiki keadaan bagi korban lainnya. Allyn pertama kali menyadari tren ini pada Juli tahun lalu. Video di TikTok menggandakan konten buatan pengguna yang sudah ada menggunakan teknologi deepfake dan mengumpulkan puluhan juta penayangan.

Namun, sebagian besar video tersebut tampaknya dibuat oleh para penipu, bukan oleh perusahaan arus utama yang ingin membuat iklan. “Ini adalah jenis hal yang sangat mudah dilakukan dengan alat AI saat ini dan sesuatu yang mudah lolos dari celah moderasi konten,” ujar pakar forensik digital University of California, Hany Farid, kepada Allyn saat itu.

Kalshi sendiri telah cukup lama bereksperimen dengan AI generatif untuk pemasarannya. Tahun lalu, mereka menayangkan iklan AI untuk NBA Finals yang diklaim perusahaan hanya memakan biaya 2.000 dolar AS untuk pembuatannya. Namun, hasilnya dinilai masih diperdebatkan apakah perusahaan mendapatkan nilai sepadan dari pengeluaran tersebut.

Sejak saat itu, seiring gelombang penolakan terhadap konten AI yang berkembang pesat, perusahaan berupaya aktif mengambil posisi berlawanan dengan mempekerjakan selebritas termasuk aktor Timothée Chalamet dan sinematografer peraih Oscar. “Saya melihat hampir setiap merek di bawah matahari menggunakan AI,” ujar Kepala Pertumbuhan Kalshi, Keaton Inglis, kepada Ad Age awal bulan ini. “Dan saya mengalihkan kami, dari menjadi pemimpin dalam AI menjadi se- manusia mungkin ke depan.”

Mengingat iklan AI perusahaan yang menukar ras tersebut masih didorong kepada pengguna yang tidak menaruh curiga di media sosial, janji tersebut terasa sangat tidak tulus. Kalshi juga sebelumnya pernah menerbitkan larangan seumur hidup pertama mereka kepada sosok yang dianggap paling lucu yang bisa dibayangkan.

Kasus ini menjadi bagian dari rangkaian persoalan yang membelit Kalshi. Sebelumnya, platform ini juga menghadapi gugatan terkait penggunaan data tanpa izin serta tuduhan operasi judi ilegal. Persoalan serupa juga menimpa platform prediksi lain seperti Polymarket yang tengah melobi Uni Eropa dan Inggris agar tidak dianggap sebagai situs judi. Di sisi lain, platform taruhan livestream seperti CRSHMARKET juga memicu kekhawatiran soal praktik insider trading.

Praktik deepfake dalam iklan juga menyoroti celah moderasi konten di platform besar. Video TikTok yang menggandakan konten buatan pengguna dengan teknologi deepfake mampu mengumpulkan puluhan juta penayangan sebelum akhirnya terdeteksi. Hal ini menunjukkan bahwa alat AI saat ini cukup mudah digunakan untuk memproduksi konten palsu yang meyakinkan, sementara sistem moderasi belum sepenuhnya mampu menangkapnya secara konsisten.

Bagi para kreator, insiden ini menjadi peringatan bahwa konten yang diunggah ke platform publik berisiko dimanfaatkan pihak lain untuk kepentingan komersial tanpa persetujuan. Choy sendiri baru mengetahui videonya dijiplak ketika iklan tersebut muncul di hadapannya saat menonton YouTube. Tidak ada mekanisme yang jelas bagi kreator untuk mendeteksi atau mencegah penggunaan konten mereka dalam iklan AI generatif.

Sampai saat ini, belum ada informasi resmi mengenai jumlah korban lain atau langkah hukum yang akan ditempuh Choy. Pernyataan Kalshi yang menyebut iklan tersebut “lama” dan tidak lagi digunakan juga belum menjawab pertanyaan apakah konten serupa masih beredar atau telah dihapus sepenuhnya dari platform.

Kasus ini menegaskan bahwa adopsi AI generatif dalam pemasaran masih menyisakan persoalan etika dan hak cipta yang belum terselesaikan. Perusahaan yang mengklaim beralih ke pendekatan lebih manusiawi tetap menghadapi ujian kredibilitas ketika jejak iklan AI mereka masih dapat ditemukan oleh pengguna.