Telset.id – Tren kakek dan nenek memberikan buku cerita buatan AI kepada cucu mereka kini menjadi sorotan. Para orang tua menilai praktik ini sebagai tindakan yang “secara moral tercela” karena melibatkan data pribadi anak tanpa persetujuan.
Fenomena ini terungkap melalui laporan WIRED yang menampilkan kesaksian beberapa orang tua. Salah satunya menceritakan bagaimana ibunya menggunakan AI untuk membuat cerita berdasarkan pengalaman nyata sang cucu, lengkap dengan nama-nama anggota keluarga asli. Tujuannya agar sang cucu “melihat keluarganya tercermin” dalam cerita tersebut.
Seorang individu menulis di Reddit bahwa ibunya “menciptakan alur cerita berdasarkan pengalaman dengan anak saya dan memodelkan karakternya memiliki atribut yang mirip dengan anak saya, dan menggunakan nama depan keluarga kami sehingga mereka mewakili kami dan anak saya akan ‘melihat keluarganya tercermin’.”
## Masalah AI Slop di Berbagai Industri
AI slop, istilah untuk konten buatan AI berkualitas rendah, telah menjadi masalah besar di berbagai industri. Label musik berjuang melawan layanan streaming untuk memberi label AI pada trek tertentu. Penerbit buku mewaspadai draf yang ditulis AI. Jurnal penelitian dibanjiri makalah buatan AI.
Industri perangkat lunak juga tertekan oleh aplikasi “vibe-coded” yang penuh celah keamanan. Bahkan Apple kesulitan menghadapi gelombang laporan bug yang dibuat menggunakan AI.
Baca Juga:
## Peran Amazon dalam Menyebarkan AI Slop
Yang menjadi ironi adalah dukungan terhadap perilaku semacam ini datang dari raksasa AI yang juga memiliki kanal distribusi konten digital terbesar di dunia. Amazon, misalnya, menjalankan Kindle sebagai salah satu platform buku digital terbesar.
Sejak 2024, telah dilaporkan bahwa toko Amazon memiliki masalah buku AI slop. Salinan buku populer yang ditulis AI dengan kualitas buruk telah membanjiri platform e-commerce tersebut.
Insiden terbaru terjadi tiga minggu lalu ketika Kashmir Hill, jurnalis teknologi di The New York Times, menulis kisah tentang seseorang yang menggunakan AI untuk menulis biografinya dan menjualnya di Amazon.
Alih-alih memberlakukan kebijakan anti-AI yang ketat, Amazon justru menambah bahan bakar ke api. Pada 2022, Amazon merilis fitur AI bernama “Create with Alexa” yang memungkinkan pengguna membuat cerita pengantar tidur untuk anak-anak lengkap dengan visual dan animasi.
Pada 2026, Amazon meluncurkan fitur serupa yang memungkinkan pembuatan podcast tentang topik apa pun menggunakan asisten AI Alexa.
## Dampak pada Platform Konten Digital
Platform seperti YouTube juga mengalami tsunami konten “brainrot” buatan AI yang ditargetkan untuk anak-anak. Kondisi ini dinilai aneh dan mengecewakan karena platform terbesar untuk konten digital dimiliki oleh perusahaan yang justru mendorong AI ke dalam kehidupan kita dari segala arah.
Amazon seharusnya menjadi penjaga buku (di Kindle dan tokonya untuk buku fisik), film dan acara TV (melalui Prime Video), serta lagu (via Amazon Music). Google dan Meta berada dalam posisi serupa, namun kemungkinan besar tidak akan menangani masalah AI ini dengan bertanggung jawab.
Fenomena ini menunjukkan bahwa masalah AI slop telah merambah ke ranah yang lebih personal, yaitu hubungan keluarga. Para orang tua kini harus menghadapi kenyataan bahwa orang tua mereka sendiri menggunakan AI untuk membuat konten yang melibatkan anak-anak mereka, tanpa mempertimbangkan implikasi privasi dan etika.
Para ahli dan pengamat industri menilai tren ini sebagai bagian dari masalah yang lebih besar terkait penyebaran konten AI yang tidak terkontrol. Dengan semakin mudahnya akses ke alat pembuat konten AI, risiko penyalahgunaan untuk konten yang melibatkan anak-anak semakin meningkat.
Sementara itu, platform seperti LinkedIn menambah tombol lapor untuk postingan AI slop, dan X membayar kreator AI slop untuk konten fiktif. Langkah-langkah ini menunjukkan kesadaran akan masalah tersebut, namun belum ada solusi komprehensif yang diterapkan.
Komentar
Belum ada komentar.