Meta AI Detection Gagal, Klaim Watermark Content Seal Dipertanyakan

Telset.id – Meta baru saja menghadapi masalah kredibilitas serius setelah alat deteksi AI buatannya gagal mengidentifikasi gambar yang dihasilkan oleh Muse Image, sistem AI generatif miliknya sendiri. Analisis dari Reuters mengungkapkan bahwa alat deteksi AI Meta hanya berhasil mengidentifikasi 45% dari 40 gambar yang dibuat oleh Muse Image, sebuah tingkat akurasi yang sangat rendah untuk teknologi yang diklaim andal.

Masalah ini muncul di tengah peluncuran dua produk AI baru Meta, yaitu Muse Image dan Muse Video, yang memungkinkan pengguna membuat foto dan klip video hanya dengan perintah teks. Sebelumnya, alat-alat ini telah memicu kontroversi karena Meta secara otomatis mengikutsertakan pengguna Instagram, memungkinkan orang lain menggunakan media publik mereka untuk diubah menjadi konten AI yang di-remix.

Untuk mengatasi kekhawatiran tersebut, Meta memperkenalkan Content Seal, sebuah sistem watermarking tak terlihat. Secara teknis, semua gambar yang dibuat oleh Muse Image membawa sinyal tersembunyi yang dapat digunakan untuk mengidentifikasi apakah gambar tersebut dibuat menggunakan AI atau tidak. Meta juga meluncurkan alat identifikasi AI sendiri yang dapat membaca watermark Content Seal yang tidak terlihat ini.

Namun, analisis Reuters menunjukkan hasil yang berbeda. Dari 40 gambar yang dianalisis, alat deteksi Meta hanya mampu mengidentifikasi 45% gambar sebagai buatan AI. Lebih memprihatinkan lagi, pada 55% kasus sisanya, ketika gambar dipotong hingga sepertiga atau seperempat dari ukuran aslinya, alat deteksi AI yang dikembangkan Meta gagal total.

Temuan ini sangat memalukan bagi Meta, mengingat klaim resmi perusahaan di situs webnya. Meta menyatakan bahwa sistem Content Seal membawa “sumber tersembunyi yang tetap utuh — bahkan saat dipotong, dikompresi, diubah ukurannya, atau di-screenshot.” Klaim ini terbukti tidak akurat berdasarkan analisis Reuters.

Menanggapi temuan tersebut, Meta mengatakan kepada Reuters bahwa alat deteksi AI-nya masih dalam tahap pratinjau dan tidak dapat bekerja dengan andal ketika foto “dipotong secara signifikan.” Pada halaman FAQ di situs detektor AI-nya, Meta juga menjelaskan bahwa jika gambar dihasilkan menggunakan produk AI pihak ketiga selain Muse Image, alat deteksi tidak akan berfungsi.

Kelemahan ini menjadi sorotan karena Meta bukan satu-satunya raksasa AI yang menciptakan sistem seperti Content Seal. Google sudah memiliki sistem deteksi dan watermarking gambar AI bernama SynthID yang telah diadopsi oleh OpenAI. Artinya, jika gambar dihasilkan menggunakan ChatGPT atau Gemini, gambar tersebut membawa watermark SynthID yang tidak terlihat dan dapat dideteksi menggunakan alat identifikasi AI Google.

Namun, Google juga menegaskan bahwa SynthID tidak 100% sempurna. Perbedaan utamanya adalah Google tidak membuat klaim berlebihan tentang ketahanan sistemnya terhadap berbagai modifikasi gambar seperti yang dilakukan Meta.

Kegagalan alat deteksi AI Meta ini menimbulkan pertanyaan serius tentang keandalan sistem watermarking Content Seal. Jika klaim Meta bahwa watermark tetap utuh bahkan saat dipotong terbukti salah, maka efektivitas sistem ini sebagai alat untuk mengidentifikasi konten AI buatan menjadi diragukan.

Bagi pengguna Instagram yang khawatir foto mereka digunakan tanpa izin, situasi ini menambah kekhawatiran. Meskipun Meta menyediakan opsi untuk keluar dari penggunaan data untuk AI, efektivitas sistem perlindungan seperti Content Seal justru dipertanyakan.

Alat deteksi AI Meta yang gagal ini juga menjadi pengingat bahwa teknologi identifikasi konten AI masih jauh dari sempurna. Meskipun berbagai perusahaan berlomba mengembangkan solusi, kenyataannya masih ada celah signifikan yang dapat dieksploitasi.

Dalam konteks yang lebih luas, kegagalan ini dapat mempengaruhi kepercayaan publik terhadap upaya Meta untuk menangani masalah konten AI. Perusahaan sebelumnya telah menghadapi kritik terkait desain adiktif platformnya dan kini harus menghadapi pertanyaan tentang kredibilitas teknologi deteksi AI-nya.

Meta sendiri mengakui bahwa alat deteksinya masih dalam tahap awal pengembangan. Namun, peluncuran alat yang belum siap ini menunjukkan tekanan kompetitif di industri AI, di mana perusahaan berlomba meluncurkan fitur baru meskipun belum sepenuhnya matang.

Ke depannya, Meta perlu meningkatkan akurasi alat deteksi AI-nya secara signifikan jika ingin mempertahankan kredibilitas Content Seal sebagai solusi watermarking yang andal. Tanpa perbaikan substansial, klaim Meta tentang ketahanan watermark terhadap berbagai modifikasi gambar akan terus dipertanyakan.

Sementara itu, pengguna disarankan untuk tetap waspada terhadap konten AI yang beredar, mengingat keterbatasan teknologi deteksi yang ada saat ini. Baik sistem Meta maupun Google masih memiliki celah yang dapat dimanfaatkan untuk menyembunyikan asal-usul gambar buatan AI.