KPMG Tarik Studi AI karena Penuh Halusinasi Buatan Sendiri

Telset.id – Ironi berat menimpa KPMG, salah satu firma akuntansi Big Four dunia. Sebuah studi yang mereka rilis pada Oktober 2025 tentang masa depan kecerdasan buatan (AI) justru ditarik kembali karena terbukti mengandung banyak halusinasi—kesalahan yang sama yang sering dikritik dari teknologi AI itu sendiri.

Studi berjudul “Total Experience: Redefining Excellence in the Age of Agentic AI” itu membahas bagaimana perusahaan mulai menggunakan AI untuk memberikan layanan terbaik kepada pelanggan. Namun, alih-alih menjadi referensi kredibel, laporan tersebut justru menjadi contoh nyata dari bahaya informasi yang tidak terverifikasi.

GPTZero, perusahaan pengembang alat deteksi teks buatan AI, bersama dengan Financial Times, menemukan sejumlah kesalahan faktual dan catatan kaki palsu dalam laporan KPMG. Hasil investigasi menunjukkan bahwa hanya lima dari 45 kutipan yang merujuk pada sumber yang legitimate. Lebih parahnya lagi, setengah dari klaim dalam laporan tersebut tidak nyata atau salah atribusi.

AI mengalami halusinasi ketika model memberikan jawaban yang salah, dibuat-buat, atau tidak masuk akal yang tidak didukung oleh data pelatihannya. Berbeda dengan manusia, AI berhalusinasi karena berbagai faktor teknis, seperti memprediksi kata yang paling mungkin berdasarkan statistik dan sering kali mengutamakan kefasihan di atas akurasi. Pelatihan pada data yang cacat, usang, atau tidak lengkap juga dapat menyebabkan AI menebak kata untuk mengisi ruang kosong.

Sayangnya, KPMG sepertinya lupa menerapkan prinsip verifikasi yang mereka promosikan kepada klien. Studi mereka sendiri penuh dengan contoh agen AI yang tidak ada atau tidak memiliki kemampuan seperti yang disebutkan.

Contoh Halusinasi dalam Studi KPMG

Salah satu contoh mencolok adalah klaim tentang chatbot bernama Sara milik Emirates Airline. KPMG menulis bahwa Sara adalah chatbot seluler yang bisa berbicara dengan penumpang dan mengubah rencana penerbangan mereka. Kenyataannya, Sara adalah asisten seluler yang diluncurkan pada 2023 dan tidak memiliki kemampuan untuk mengubah informasi penerbangan penumpang.

Studi tersebut juga mengklaim bahwa bank investasi global asal Swiss, UBS, telah mengintegrasikan AI agen di seluruh “investment advisory, risk management and compliance monitoring”-nya. Klaim ini terdengar menarik, tetapi UBS sendiri menyatakan kepada Times bahwa informasi itu “factually incorrect” (tidak benar secara faktual).

Dalam contoh lain, KPMG mengatakan bahwa Swiss Federal Railways (SBB) memiliki agen AI yang akan merencanakan dan memesan perjalanan untuk penumpang berdasarkan preferensi mereka. Lagi-lagi, ini dinyatakan “factually incorrect” oleh pihak terkait.

Menanggapi temuan ini, KPMG menyatakan bahwa mereka menganggap serius integritas dan akurasi konten yang mereka publikasikan. Firma tersebut telah menarik laporan itu dan akan “meninjau keadaan seputar publikasinya”.

Kejadian ini menjadi pengingat keras bahwa output AI, betapapun meyakinkannya, harus selalu diverifikasi. Ketergantungan berlebihan pada AI tanpa verifikasi manusia justru bisa menurunkan kualitas kerja.

Cara Mengurangi Risiko Halusinasi AI

Bagi mereka yang masih ingin menggunakan AI, ada beberapa langkah yang bisa dilakukan untuk mengurangi kemungkinan menerima jawaban yang mengandung halusinasi:

• Jaga prompt tetap jelas dan presisi, serta sertakan konteks.
• Berikan materi sumber langsung kepada AI untuk dianalisis.
• Tetapkan peran spesifik untuk AI.
• Gunakan prompt multi-langkah dan minta AI berpikir langkah demi langkah.
• Kurangi temperature AI, yang memberi tahu model untuk tidak berimprovisasi, sehingga mengurangi kemungkinan model mulai keluar jalur dan berhalusinasi untuk mengisi ruang kosong.

Ironis memang, sebuah studi yang berfokus pada manfaat AI justru ditarik karena mengandung halusinasi AI. Kasus KPMG ini menunjukkan bahwa tidak ada organisasi, sekelas Big Four sekalipun, yang kebal terhadap jebakan informasi yang tidak akurat jika proses verifikasi diabaikan. Keseimbangan dalam hidup, termasuk dalam penggunaan teknologi, tetap menjadi kunci utama.