Telset.id – Firma konsultan terkemuka PwC, salah satu dari “Big Four”, tertangkap menerbitkan laporan “thought leadership” tentang AI yang dipenuhi halusinasi yang mudah terlihat dan tidak profesional. Empat laporan yang diterbitkan antara 2024 dan 2026 ini seharusnya digunakan untuk menarik proyek konsultasi bagi klien di Timur Tengah, namun hasil investigasi justru menunjukkan kualitas yang memprihatinkan.
Investigasi dari perusahaan pendeteksi AI, GPTZero, mengungkap bahwa laporan-laporan tersebut dipenuhi dengan “kutipan halusinasi, klaim yang dibuat-buat, serta keputusan penulisan dan format yang tidak dapat dipahami.” Temuan ini menimbulkan pertanyaan serius tentang kualitas layanan profesional yang diberikan oleh firma konsultan bergengsi kepada klien mereka.
Kasus ini menyoroti betapa meluasnya masalah halusinasi AI, mulai dari pengacara yang ditegur hakim karena menyertakan kutipan hukum palsu hingga dunia akademis yang dibanjiri makalah ilmiah bermasalah. Bahkan firma konsultan ternama pun terbukti memberikan laporan berkualitas buruk yang tidak terverifikasi kepada klien mereka.
Halusinasi AI dalam Laporan PwC
Salah satu laporan PwC pada 2025 memuat bagian tentang kerangka kerja bernama “Citizen Pulse” yang diklaim sedang diterapkan oleh pemerintah di berbagai negara. Namun, GPTZero menemukan bahwa kerangka kerja tersebut sebenarnya tidak pernah ada dan sepenuhnya merupakan halusinasi AI, termasuk kutipan pendukung yang dibuat-buat.
Kasus ini dinilai sangat memprihatinkan karena beberapa laporan PwC yang bermasalah justru secara khusus membahas tentang bot AI “agentic”, termasuk panduan untuk pemerintah tentang cara meningkatkan layanan publik untuk kendaraan otonom. Tingkat kekacauan dalam laporan tersebut sangat membingungkan.
Salah satu laporan PwC bahkan menyertakan catatan kaki yang merujuk pada blogger remaja di Medium dengan 280 pengikut sebagai sumber untuk inisiatif AI agen JPMorgan. Peneliti GPTZero, Paul Esau, juga menemukan bahwa laporan PwC lain mengutip klaim yang sama tentang kesalahan manusia sebagai penyebab 90 persen kecelakaan lalu lintas sebanyak tiga kali hanya dalam dua halaman, dengan menggunakan tiga sumber berbeda.
Menurut Paul Esau, pola pengutipan berulang seperti itu adalah sesuatu yang “tidak akan dilakukan oleh manusia mana pun”. Temuan ini menunjukkan bahwa laporan tersebut kemungkinan besar dihasilkan oleh AI tanpa pengawasan dan verifikasi yang memadai dari tim editorial PwC.
Kasus PwC ini bukan yang pertama kali terjadi di industri konsultan. Baru bulan lalu, firma Big Four lainnya, KPMG, juga tertangkap menyertakan banyak halusinasi AI dalam laporan tentang cara mengintegrasikan agen AI “di seluruh penasihat investasi, manajemen risiko, dan pemantauan kepatuhan.” Pola ini menunjukkan masalah sistemik dalam penggunaan AI untuk menghasilkan laporan profesional.
Temuan ini juga memperkuat pentingnya kepercayaan dalam adopsi teknologi AI. Ketika kecepatan produksi konten tidak diimbangi dengan verifikasi kualitas, risiko kesalahan dan kerusakan reputasi justru meningkat secara signifikan.
Respons PwC atas Temuan Investigasi
Menanggapi temuan tersebut, PwC justru meremehkan masalah dan gagal mengambil tanggung jawab penuh. Dalam pernyataan kepada Financial Times, PwC Middle East mengklaim bahwa mereka “menganggap serius keakuratan riset yang kami publikasikan dan sedang memperbarui sejumlah kutipan pendukung” dalam laporan-laporan tersebut.
PwC juga menyatakan bahwa “Sesuai dengan pendekatan kami terhadap AI yang bertanggung jawab, kami memiliki proses kontrol kualitas untuk riset dan pengembangan konten yang kami harapkan dipatuhi oleh semua orang di tim kami.” Namun pernyataan ini dinilai tidak cukup untuk menjawab temuan investigasi yang menunjukkan kelemahan mendasar dalam proses editorial mereka.
Kasus ini menjadi pengingat bahwa penggunaan AI dalam pembuatan konten profesional memerlukan pengawasan manusia yang ketat. Halusinasi AI yang tidak terdeteksi dapat merusak kredibilitas institusi dan menyesatkan pembaca yang mengandalkan informasi tersebut untuk pengambilan keputusan penting.
Penting juga untuk mempertimbangkan bahwa solusi AI untuk bisnis masih memiliki keterbatasan yang signifikan. Laporan seperti yang diterbitkan PwC menunjukkan bahwa teknologi AI belum sepenuhnya siap untuk menghasilkan konten profesional tanpa pengawasan manusia yang ketat.
Bagi perusahaan yang menggunakan jasa konsultan, temuan ini menjadi peringatan untuk lebih kritis dalam mengevaluasi laporan yang mereka terima. Verifikasi sumber dan keakuratan data menjadi langkah penting sebelum menggunakan informasi tersebut sebagai dasar pengambilan keputusan bisnis.
Kasus PwC dan KPMG juga menunjukkan bahwa masalah keamanan dan integritas digital tidak hanya terbatas pada serangan siber, tetapi juga mencakup kualitas konten yang dihasilkan dengan bantuan AI. Integritas informasi menjadi isu yang semakin krusial di era adopsi AI yang masif.
Komentar
Belum ada komentar.