Google AI Overviews Kacau, Cerita Horor Fiksi Disajikan sebagai Fakta

Telset.id – Google AI Overviews kembali menjadi sorotan setelah terbukti menyajikan entitas fiksi dari alam semesta SCP Foundation sebagai fakta ilmiah yang nyata. Temuan ini mengungkap celah serius dalam kemampuan sistem kecerdasan buatan Google untuk membedakan antara informasi faktual dan karya fiksi penggemar.

Dalam sebuah pengujian yang dilakukan oleh Futurism, pencarian untuk “SCP-565” — sebuah entitas ikonik dalam alam semesta fiksi kolaboratif SCP Foundation — menghasilkan ringkasan AI yang menggambarkan makhluk tersebut seolah-olah benar-benar ada. AI Overviews mendeskripsikan “SCP-565 (also known as ‘Ed’s Head’)” sebagai kepala manusia yang dapat berjalan dan berperilaku seperti kepiting karang, lengkap dengan referensi DNA dan catatan gigi yang mengaitkannya dengan seorang pria bernama Edward Belltram.

Yang lebih mengkhawatirkan, ringkasan AI tersebut sama sekali tidak menyebutkan bahwa entitas ini adalah bagian dari cerita horor fiksi. Tidak ada kata “fiksi,” “lore,” atau “fan-fiction” yang muncul. Sebaliknya, AI Overviews justru mengarahkan pengguna untuk membaca “dokumen resmi SCP-565” seolah-olah itu adalah catatan ilmiah yang sah. Sistem ini bahkan menawarkan bantuan lebih lanjut untuk menjelajahi “entitas akuatik atau biologis anomali serupa.”

Masalah ini tidak terbatas pada satu entitas saja. Futurism menemukan setidaknya 20 kasus serupa di mana AI Overviews menyajikan entitas SCP sebagai fakta. Contoh paling mencolok adalah pencarian untuk “SCP-426,” sebuah pemanggang roti fiksi yang menyebabkan siapa pun yang membicarakannya harus merujuk pada dirinya sendiri dalam sudut pandang orang pertama. Dalam hasil pencarian, AI Overviews justru berbicara dalam orang pertama: “Hello, I am SCP-426, an ordinary four-slice retro toaster that causes anyone mentioning me to inadvertently refer to me in the first person.”

Ringkasan AI itu kemudian melanjutkan dengan mendeskripsikan metode “pengamanan” pemanggang roti tersebut oleh SCP Foundation, dan bahkan menceritakan kisah horor tentang korbannya yang mencoba meniru fungsi pemanggang roti — seperti mencoba mengonsumsi listrik atau mengisi diri dengan 10 kg roti — sebagai peristiwa nyata yang mengakibatkan cedera atau kematian.

Entitas lain yang diperlakukan sama termasuk “SCP-922” atau “Another Version of the Truth,” sebuah peristiwa pengubah realitas yang melanda sebuah universitas; “SCP-704,” jalan raya mematikan yang dikenal sebagai “Dangerous Curves”; dan “SCP-779,” parasit mirip tawon yang menggunakan bisa halusinogen untuk menipu manusia agar percaya bahwa ia adalah peri. Dalam setiap kasus, AI Overviews menyajikan detail fiksi ini sebagai fakta tanpa peringatan atau konteks bahwa itu adalah cerita buatan.

Kegagalan Sistemik dalam Membedakan Fakta dan Fiksi

Fenomena ini menunjukkan kelemahan mendasar pada AI Mode Google. Large Language Model (LLM) yang mendukung AI Overviews tampaknya tidak mampu mengenali bahwa database SCP Foundation — dengan format “dokumen resmi,” “catatan penelitian,” dan “log pengujian” — adalah karya fiksi penggemar, bukan sumber informasi ilmiah. Karena formatnya menyerupai dokumen asli, AI memperlakukannya sebagai fakta.

Dalam beberapa kasus, AI Overviews memang menyebutkan kata “lore” atau “universe,” yang secara implisit mengindikasikan sifat fiksi dari entitas tersebut. Namun, hampir tidak ada satu pun hasil pencarian yang secara eksplisit menyatakan bahwa entitas tersebut adalah palsu atau fiktif. Ini menjadi masalah serius, terutama karena pengguna biasa — termasuk anak-anak — mungkin mencari informasi tentang istilah yang tidak mereka kenal dan menerima jawaban AI tanpa verifikasi lebih lanjut.

Bayangkan seorang anak yang mendengar tentang “Ed’s Head” dari media sosial dan mencari informasi di Google. Alih-alih mendapatkan penjelasan bahwa itu adalah cerita horor fiksi, ia malah disuguhi deskripsi detail tentang kepala manusia berjalan yang dikonfirmasi oleh DNA dan catatan gigi. Google, sebagai sumber informasi yang dipercaya, gagal memberikan konteks yang diperlukan.

Dampak Lebih Luas dan Langkah Google Selanjutnya

Kegagalan AI Overviews ini bukanlah insiden terisolasi. Sebelumnya, berbagai analisis telah menemukan bahwa fitur ini secara konsisten menyediakan informasi yang salah atau menyesatkan dalam skala yang mungkin belum pernah terjadi sebelumnya dalam sejarah peradaban manusia. Dari saran berbahaya hingga fakta yang dibuat-buat, masalah ini terus berulang tanpa tanda-tanda perbaikan signifikan.

Yang lebih mengkhawatirkan, Google baru-baru ini mengumumkan rencana untuk mengganti seluruh halaman pencariannya menjadi antarmuka berbasis AI yang dirancang untuk merangkum informasi, bukan lagi sekadar menautkan pengguna ke sumber asli. Langkah ini, jika diterapkan tanpa perbaikan fundamental pada kemampuan AI untuk membedakan fakta dan fiksi, berpotensi memperburuk masalah misinformasi secara eksponensial.

Futurism telah menghubungi Google untuk menanyakan mengapa alam semesta SCP tampak begitu sulit diproses oleh AI Overviews, namun belum mendapatkan tanggapan. Sementara itu, pengguna disarankan untuk selalu melakukan verifikasi silang terhadap informasi yang dihasilkan oleh AI Overviews, terutama untuk topik-topik yang tidak familier atau kontroversial.

Fakta bahwa Google meluncurkan teknologi AI yang belum matang kepada miliaran pengguna, tanpa kemampuan yang andal untuk membedakan antara fakta dan fiksi, menunjukkan kesenjangan ekspektasi yang serius antara ambisi perusahaan dan realitas teknis yang ada. Untuk informasi lebih lanjut tentang perkembangan terbaru ekosistem Google, Anda dapat membaca tentang Fitur Terbaru di Google Kalender.