Telset.id – Jurnal kedokteran terkemuka Nature Medicine mengeluarkan peringatan keras terhadap penggunaan kecerdasan buatan (AI) di bidang medis. Dalam editorial yang diterbitkan pada Selasa lalu, jurnal tersebut menyatakan bahwa bukti manfaat nyata AI untuk pasien, penyedia layanan, atau sistem kesehatan masih langka.
Peringatan ini muncul di tengah temuan survei bahwa jutaan warga Amerika lebih memilih bertanya pada chatbot AI daripada berkonsultasi langsung dengan dokter. Padahal, para peneliti terus menemukan kelemahan serius pada alat berbasis large language model (LLM) yang digunakan untuk memberikan ringkasan rekam medis dan saran kesehatan.
“Namun demikian, dalam publikasi dan materi produk, klaim tentang dampak klinis semakin sering muncul, meskipun tidak ada kesepakatan jelas tentang tingkat bukti apa yang diperlukan sebelum klaim tersebut dianggap kredibel,” tulis editorial tersebut.
Akibatnya, menurut editorial itu, yang terjadi bukan hanya ketidakpastian ilmiah, tetapi juga implementasi dan adopsi yang prematur. Oleh karena itu, Nature Medicine menyerukan pembentukan “kerangka kerja untuk bagaimana teknologi medis AI harus dievaluasi, dengan metrik apa, dan terhadap tolok ukur apa” yang dinilai “sangat mendesak.”
Masalah Halusinasi AI Belum Terpecahkan
Salah satu masalah terbesar yang dihadapi AI medis adalah halusinasi. Model AI terbukti mampu menghasilkan temuan klinis mendetail berdasarkan gambar yang tidak pernah mereka terima. Dalam sebuah demonstrasi, peneliti Universitas Gothenburg, Almira Osmanovic Thunström, mengunggah dua studi palsu ke server pracetak untuk mengelabui LLM agar percaya bahwa kondisi kulit buatan itu nyata.
Tidak butuh waktu lama bagi jurnal peer-review lain untuk menerbitkan makalah yang mengutip pracetak tersebut, yang kemudian ditarik kembali. Hal ini menyoroti pertanyaan serius tentang validitas data yang dihasilkan AI.
Sebuah studi terbaru di jurnal JAMA Medicine menemukan bahwa ketika dihadapkan pada gejala yang lebih ambigu, model AI terdepan gagal menghasilkan diagnosis yang benar hingga lebih dari 80 persen kasus. AI yang tampak sempurna dalam kondisi eksperimental justru kesulitan di dunia nyata.
Kritik dari Akademisi
Asisten profesor bedah Harvard Medical School, Jamie Robertson, dalam pernyataannya tahun lalu mengakui potensi AI mempercepat proses yang membosankan dan menantang. Namun, ia menekankan pentingnya pengetahuan yang benar tentang aplikasi AI.
“Tetapi sangat penting bagi orang yang berinteraksi dengan AI sebagai bagian dari studi klinis untuk mengetahui aplikasi yang benar dan salah, serta dalam konteks yang tepat,” tambahnya.
Para peneliti memperingatkan bahwa terlalu bergantung pada AI dapat mengorbankan ketelitian ilmiah. Kekhawatiran muncul atas proliferasi data yang terlalu digeneralisasi dan berpotensi mengalami halusinasi di bidang medis.
“Tahap kemajuan berikutnya tidak hanya bergantung pada model yang lebih baik dan aplikasi baru, tetapi juga pada ekspektasi yang lebih jelas tentang bagaimana dampak klinis didefinisikan, dievaluasi, dan dikomunikasikan,” demikian kesimpulan editorial Nature Medicine.
Tanpa hubungan yang jelas antara klaim dan bukti, AI medis berisiko diadopsi lebih cepat daripada nilai nyata yang bisa dipahami.
