Studi: AI Perparah Bias Gender pada Buku Anak-Anak

Telset.id – Studi terbaru mengungkap bahwa buku anak-anak yang dihasilkan AI memiliki bias gender yang lebih parah dibandingkan buku karya manusia. Model AI cenderung menghapus karakter hewan berjenis kelamin perempuan, sebuah temuan yang berdampak langsung pada representasi anak dalam literasi digital.

Penelitian yang dilakukan oleh Melanie Walsh, asisten profesor informatika di University of Washington, bersama rekan-rekannya ini menganalisis 300 buku anak-anak dan menemukan bahwa kata ganti “he/him” digunakan dua kali lebih sering dibandingkan “she/her” ketika merujuk pada karakter hewan. Temuan ini dipublikasikan dalam studi tahun lalu dan menjadi dasar bagi penelitian lanjutan yang lebih mengkhawatirkan.

Dalam studi lanjutan yang diterbitkan bulan ini dan masih menunggu tinjauan sejawat, tim Walsh meminta enam model AI terkemuka, termasuk ChatGPT, Claude, dan Gemini, untuk menyelesaikan kalimat serupa tentang hewan yang bisa berbicara. Dari 24.000 respons yang terkumpul, hasilnya menunjukkan pola yang jelas: AI menggunakan bahasa netral gender atau merujuk nama hewan sebanyak 57 persen, tetapi hanya dua persen karakter hewan yang digambarkan sebagai perempuan, sementara 41 persen digambarkan sebagai laki-laki.

“Mereka pada dasarnya menghapus karakter hewan perempuan,” kata Walsh dalam pernyataannya. “Jadi mereka tidak hanya memperkuat bias manusia, tetapi juga memutarbalikkannya dengan cara yang aneh dan tidak terduga.”

Netralitas AI Justru Menghapus Identitas Non-Maskulin

Penulis utama studi, Imani Finkley, mahasiswa doktoral di Information School UW, menambahkan bahwa kata ganti “they/them” hanya digunakan dua kali untuk merujuk satu karakter hewan. “Dalam studi dengan manusia, sekitar 3 persen respons menggunakan ‘they/them.’ Jadi netralitas model AI ini tidak hanya menghapus karakter perempuan — tetapi menghapus semua identitas non-maskulin,” jelasnya.

Finkley juga menyoroti pola lain yang muncul dari output AI. “Trope yang sama terus muncul, seperti burung hantu tua yang bijak menyuruh semua hewan berkumpul di sekitar api unggun. Jadi kami bertanya-tanya apa lagi yang bisa kami pelajari dari output ini,” katanya. “Kami menggunakan hewan berbicara di sini, tetapi kami tertarik pada apa artinya ini bagi AI dan penceritaan secara lebih luas.”

Buku anak-anak yang dihasilkan AI memang menjadi ceruk pasar yang semakin populer. Sejumlah layanan seperti Imagitime, StoryWonderBook, dan Childbook.ai memungkinkan pelanggan membuat cerita AI yang dipersonalisasi dengan menampilkan anak mereka sendiri sebagai karakter. Buku-buku ini menjadi hadiah yang umum dari kakek-nenek untuk cucu mereka, hingga Wired berbicara dengan sejumlah orang tua yang merasa aneh dengan buku-buku AI tersebut.

Bias gender yang ditunjukkan AI ini juga ditemukan pada buku yang ditulis manusia. Survei terhadap 1.300 orang dewasa secara acak menemukan bahwa responden lebih memilih kata ganti laki-laki ketika diminta melengkapi kalimat yang menggambarkan hewan berbicara. Bias itu berlaku untuk semua tujuh hewan yang diperiksa: beruang, burung, kucing, babi, bebek, tikus, dan anjing. Beberapa hewan lebih mungkin dirujuk sebagai jantan atau betina — beruang cenderung jantan, misalnya, dan kucing betina.

Dampak pada Anak dan Perkembangan Literasi

Michelle Martin, profesor layanan anak dan remaja di UW Information School, memperingatkan bahwa bias gender yang ditunjukkan buku anak-anak AI dapat mengalienasi anak-anak dan memengaruhi perasaan harga diri mereka. “Penting bagi anak-anak untuk melihat representasi pengalaman mereka,” katanya kepada The Seattle Times. “Jika kamu tidak melihatnya dalam apa yang kamu baca, kamu mendapat kesan bahwa kamu tidak berarti.”

Fenomena ini bukan satu-satunya konten berformat formula yang menyasar anak-anak. Ada dunia “edukasi” AI slop di YouTube, dengan banyak video surealis yang mengikuti format yang sama tentang mengajarkan alfabet dan hewan kepada anak-anak.

Temuan ini menambah kekhawatiran yang berkembang tentang dampak AI pada konten anak. Sebelumnya, Deezer menghapus lagu AI-generated yang tidak pernah diputar, menunjukkan bahwa platform mulai membersihkan konten AI yang tidak berkualitas. Sementara itu, konten AI Islamofobia di Facebook telah memicu seruan kekerasan, memperlihatkan bahaya bias AI dalam skala yang lebih luas.

Studi ini menegaskan bahwa meskipun AI menawarkan kemudahan dalam menghasilkan konten, kualitas dan dampaknya terhadap nilai-nilai sosial perlu diawasi ketat. Orang tua dan penerbit perlu lebih kritis dalam memilih buku anak-anak, baik yang dihasilkan manusia maupun AI, untuk memastikan representasi yang seimbang bagi semua anak.