Telset.id – Platform media sosial TikTok kini menghadapi masalah serius akibat membanjirnya konten buatan kecerdasan buatan atau AI slop. Sebuah laporan terbaru dari perusahaan editing video asal San Francisco, Kapwing, mengungkapkan bahwa hampir 60 persen video yang ditampilkan di halaman “For You” (FYP) untuk pengguna baru adalah AI slop.
Temuan ini menjadi perhatian khusus karena jumlahnya tiga kali lipat lebih banyak dibandingkan konten serupa yang disajikan kepada pengguna baru YouTube. Situasi ini dinilai sangat mengkhawatirkan, terutama bagi pengguna termuda platform tersebut.
Kapwing menemukan bahwa kategori dengan kepadatan AI slop tertinggi adalah konten anak-anak. Tagar #cartoonkids, misalnya, hampir seluruhnya dipenuhi konten buatan AI. Dari 100 video yang diperiksa, hanya tiga video yang dibuat oleh manusia.
Lebih buruk lagi, ketika sebuah akun menunjukkan ketertarikan pada konten AI, algoritma dengan cepat akan menggandakan jumlah tayangan AI slop di feed pengguna tersebut. Temuan ini menjadi pengingat nyata betapa besarnya masalah yang ditimbulkan oleh AI slop saat ini.
Pikiran anak-anak muda yang masih dalam tahap perkembangan rentan terpapar material AI setengah matang yang dapat membahayakan perkembangan otak mereka. Para ahli memperingatkan risiko serius dari paparan konten semacam ini. Sementara itu, deepfake fotorealistik juga memfasilitasi penyebaran misinformasi dan propaganda politik.
TikTok bukan satu-satunya platform yang mengalami masalah ini. Meta, melalui Facebook dan Instagram, juga telah berubah menjadi lahan yang nyaris tidak bisa dikenali. Pengguna, kemungkinan besar termasuk bot, berinteraksi dengan gambar-gambar absurd seperti anak-anak miskin tanpa lengan yang meminta-minta di jalan, atau video kucing humanoid yang secara tidak sengaja membunuh anak mereka di penggiling daging.
Baca Juga:
Upaya TikTok Mengatasi AI Slop
Sebagai upaya mengendalikan masalah ini, TikTok pada November lalu mengumumkan akan memberikan opsi kepada pengguna untuk menambah atau mengurangi jumlah konten buatan AI di feed mereka. “Kami tahu dari komunitas kami bahwa banyak orang menikmati konten yang dibuat dengan alat AI, mulai dari seni digital hingga penjelasan sains, dan kami ingin memberi orang kekuatan untuk melihat lebih atau kurang dari itu, berdasarkan preferensi mereka sendiri,” ujar Jade Nester, direktur kebijakan publik Eropa untuk keamanan dan privasi TikTok, kepada The Guardian saat itu.
Langkah ini menunjukkan bahwa TikTok menyadari besarnya dampak AI slop terhadap pengalaman pengguna. Namun, kebijakan tersebut masih bersifat opsional dan belum menjadi solusi menyeluruh. Pengguna harus secara aktif menyesuaikan preferensi mereka untuk mengurangi paparan konten AI yang tidak diinginkan.
Sementara itu, YouTube juga baru-baru ini mengumumkan perubahan dalam cara mereka memberi label pada konten buatan AI. Langkah ini merupakan bagian dari upaya yang lebih luas untuk menekan penyebaran AI slop. Namun, YouTube belum mengubah cara video direkomendasikan atau kelayakan video untuk menghasilkan uang.
Tantangan Membedakan Realitas dan AI
Belum jelas apa solusi mudah untuk mengatasi masalah ini. Teknologi AI telah berkembang sedemikian pesat sehingga membedakan antara realitas dan konten buatan AI menjadi semakin sulit. Seperti yang dilaporkan New York Times akhir pekan lalu, bahkan Hany Farid, yang dijuluki “ahli deepfake terkemuka dunia,” telah berhenti mempercayai matanya sendiri.
Fenomena ini menunjukkan bahwa AI slop bukan hanya masalah kuantitas, tetapi juga kualitas. Konten buatan AI kini sangat realistis sehingga sulit dibedakan dari konten asli, membuat pengguna semakin rentan terhadap misinformasi dan manipulasi.
Bagi para orang tua, temuan ini menjadi peringatan serius. Paparan konten AI yang tidak terkontrol dapat memengaruhi perkembangan kognitif anak-anak. Konten-konten absurd dan tidak masuk akal yang beredar di platform seperti TikTok dan Instagram dapat membingungkan dan bahkan membahayakan pola pikir anak-anak.
Dengan semakin canggihnya teknologi AI, platform media sosial harus segera mengambil tindakan lebih tegas. Label konten buatan AI dan opsi preferensi pengguna mungkin belum cukup. Diperlukan pendekatan yang lebih komprehensif, termasuk deteksi otomatis yang lebih akurat dan kebijakan moderasi yang lebih ketat.
Komentar
Belum ada komentar.