Bayangkan sebuah platform media sosial yang dalam kurun waktu kurang dari dua minggu, mampu memproduksi sekitar tiga juta gambar seksual tanpa izin. Angka yang fantastis sekaligus mengerikan ini bukan sekadar statistik fiksi, melainkan tuduhan serius yang kini dihadapi oleh X (sebelumnya Twitter) terkait performa kecerdasan buatan mereka, Grok. Situasi ini memicu kekhawatiran global mengenai bagaimana teknologi AI generatif dikelola tanpa pengawasan yang ketat, terutama ketika melibatkan privasi individu.
Komisi Perlindungan Data Irlandia (DPC) baru saja mengumumkan langkah tegas dengan membuka penyelidikan resmi terhadap X. Fokus utamanya adalah dugaan pembuatan gambar intim yang berbahaya serta pemrosesan data pribadi individu di Uni Eropa (UE) dan Wilayah Ekonomi Eropa (EEA). Yang membuat kasus ini semakin sensitif adalah keterlibatan data anak-anak di dalamnya. Langkah DPC ini menjadi sinyal keras bahwa regulator Eropa tidak akan tinggal diam melihat potensi pelanggaran privasi skala besar.
Penyelidikan ini tidak muncul begitu saja tanpa asap. Laporan dari organisasi nirlaba asal Inggris, Center for Countering Digital Hate (CCDH), menjadi pemantik utamanya. Investigasi ini akan menelisik apakah X telah melanggar undang-undang perlindungan data yang sangat ketat di Eropa, yakni GDPR. Bagi Anda pengguna setia X, ini adalah momen krusial untuk melihat apakah platform kesayangan Anda benar-benar menjaga keamanan data atau justru mengeksploitasinya demi kecanggihan fitur semata.
Skandal Jutaan Gambar Ilegal
Data yang diungkap oleh CCDH sungguh mencengangkan. Dalam periode tinjauan singkat antara 29 Desember hingga 9 Januari lalu, Grok dilaporkan telah menghasilkan jutaan gambar seksual. Dari total tersebut, diperkirakan ada 23.000 gambar yang merupakan materi pelecehan seksual terhadap anak (CSAM). Angka ini bukan sekadar pelanggaran etika, melainkan potensi tindak pidana serius yang melibatkan keselamatan anak di ranah digital.
Graham Doyle, wakil komisaris DPC, menyatakan bahwa pihaknya telah berkomunikasi intensif dengan X Internet Unlimited Company (XIUC)—nama entitas X di Eropa—sejak laporan media pertama kali mencuat beberapa minggu lalu. Kekhawatiran utamanya adalah kemampuan pengguna X untuk memerintahkan akun @Grok agar membuat gambar seksual dari orang sungguhan, termasuk anak-anak. Ini memunculkan pertanyaan besar mengenai kontroversi Grok yang seolah tak ada habisnya.
Sebagai otoritas pengawas utama untuk XIUC di seluruh UE dan EEA, DPC tidak main-main. Doyle menegaskan bahwa mereka telah memulai penyelidikan berskala besar. Tujuannya adalah memeriksa kepatuhan XIUC terhadap kewajiban fundamental mereka di bawah GDPR. Jika terbukti bersalah, implikasinya bisa sangat luas bagi operasional X di seluruh benua biru tersebut, mengingat GDPR memiliki mekanisme sanksi denda yang sangat besar.
Baca Juga:
Janji Perbaikan yang Dipertanyakan
X sebenarnya sempat merespons isu ini pada pertengahan Januari lalu. Mereka mengklaim telah mengambil langkah preventif dengan mencegah Grok mengedit foto orang sungguhan menjadi berpakaian terbuka atau vulgar. Namun, klaim tersebut tampaknya jauh panggang dari api. Realitas di lapangan menunjukkan bahwa sistem filter keamanan pada Grok masih memiliki celah yang menganga lebar.
Fakta mengejutkan ditemukan oleh seorang reporter pria awal bulan ini. Ia mendapati bahwa Grok masih bisa memanipulasi fotonya menjadi mengenakan pakaian terbuka, bahkan menambahkan alat kelamin yang terlihat jelas. Temuan ini meruntuhkan argumen pertahanan X dan menunjukkan bahwa akses Grok AI masih sangat rentan disalahgunakan untuk membuat konten deepfake pornografi tanpa persetujuan (nonconsensual), sebuah masalah yang seharusnya sudah dimitigasi sejak awal.
Tekanan Ganda dari Uni Eropa
Masalah X tidak berhenti pada GDPR saja. Penyelidikan DPC ini justru memperkuat tekanan regulasi yang sudah ada sebelumnya. Pada bulan Januari, Komisi Eropa juga telah meluncurkan penyelidikan terpisah untuk menentukan apakah X melanggar Undang-Undang Layanan Digital (Digital Services Act/DSA). Fokusnya adalah apakah X telah melakukan penilaian dan mitigasi risiko yang memadai terkait Grok.
Penyebaran konten ilegal seperti gambar seksual eksplisit tanpa persetujuan—terutama yang melibatkan anak-anak—menjadi poin krusial dalam penyelidikan DSA tersebut. Kegagalan dalam membendung penyebaran konten semacam ini bisa berakibat fatal bagi reputasi dan legalitas X di Eropa. Fenomena ini mengingatkan kita pada maraknya aplikasi AI Nudify yang juga meresahkan banyak pihak.
Investigasi berlapis ini menunjukkan betapa seriusnya regulator Eropa memandang ancaman AI yang tidak terkendali. Bagi X, ini adalah ujian berat untuk membuktikan bahwa inovasi teknologi mereka tidak mengorbankan keamanan dan martabat manusia. Publik kini menanti, apakah langkah hukum ini akan memaksa X melakukan perombakan total pada sistem keamanan AI mereka, atau hanya berakhir dengan pembayaran denda tanpa perubahan berarti.
