Telset.id – Risiko penggunaan AI untuk konsultasi kesehatan semakin nyata setelah ChatGPT salah mendiagnosis seorang jurnalis sebagai hamil, padahal ia tengah menjalani perimenopause. Kasus ini menjadi peringatan keras bahwa AI bukanlah pengganti dokter.
Seorang editor AI dari Tom’s Guide, Amanda Caswell, menceritakan pengalamannya saat menggunakan ChatGPT untuk berkonsultasi mengenai gejala aneh yang dialaminya, seperti siklus menstruasi tidak teratur, keringat malam mendadak, perubahan suasana hati, dan kelelahan. Alih-alih mendapatkan solusi, ia justru menerima diagnosis percaya diri dari AI bahwa dirinya sedang hamil trimester pertama.
Padahal, suami Amanda telah menjalani vasektomi dan ia sendiri berada dalam fase perimenopause. Kejadian ini menunjukkan bahaya besar dari kecenderungan AI untuk terdengar otoritatif, padahal tidak selalu benar.
Kejadian serupa juga dialami oleh Scott Winters, seorang pendeta asal Florida. Ia mengalami sakit perut parah dan pusing, lalu berkonsultasi dengan ChatGPT. AI tersebut meyakinkannya bahwa gejalanya “tidak berbahaya” dan menyarankannya untuk beristirahat di kursi malas. Beberapa minggu kemudian, Winters dilarikan ke ICU karena emboli paru yang mengancam jiwa, yang justru diperparah oleh imobilitas yang disarankan AI.
Insiden ini memicu gugatan hukum terhadap OpenAI, seperti yang dilaporkan oleh The New York Times. Kasus ini semakin memperkuat argumen bahwa saran kesehatan ChatGPT bisa berakibat fatal.
Baca Juga:
Bagaimana AI Bisa Salah Diagnosis?
Menurut analisis Amanda, ada tiga alasan utama mengapa ChatGPT rentan melakukan kesalahan diagnosis.
Pertama, AI hanya mencocokkan pola kata, bukan fisiologi manusia. Ketika pengguna memasukkan daftar gejala seperti telat haid, kelelahan, dan perubahan hormon, algoritma AI akan mencari pola statistik paling umum dalam data pelatihannya. Karena kehamilan sering dibahas secara online bersamaan dengan gejala-gejala tersebut, AI secara otomatis memilih narasi yang paling umum, tanpa mampu mempertimbangkan konteks usia, penanda darah, atau realitas kompleks perimenopause.
Kedua, sifat “sycophancy” atau kecenderungan AI untuk menyetujui pengguna. Model bahasa besar seperti ChatGPT dirancang untuk mencerminkan bahasa, nada, dan asumsi pengguna. Jika pertanyaan Anda condong ke arah ketakutan atau rasa ingin tahu tertentu, AI cenderung mengonfirmasi daripada menantangnya. Dalam kasus Winters, chatbot menggunakan bahasa spiritual pribadinya untuk memberikan keyakinan yang menyesatkan.
Ketiga, ilusi nada otoritatif. Berbeda dengan dokter manusia yang menggunakan bahasa bersyarat, AI menyajikan diagnosis palsu dengan keyakinan tenang dan tanpa keraguan. Nada ini menciptakan rasa aman palsu yang berbahaya, membuat pengguna mengabaikan peringatan dini atau melewatkan perawatan medis nyata.
Pelajaran Penting untuk Pengguna
Meskipun model bahasa besar dapat menjadi alat brainstorming yang berguna untuk merapikan pikiran sebelum janji temu dokter atau meringkas jargon medis yang rumit, alat ini bukanlah alat diagnostik. AI tidak memiliki penilaian klinis, tidak bisa memesan tes darah, dan tidak bisa merasakan denyut nadi pasien manusia.
Jika Anda mengalami gejala yang tidak terduga, lewati kotak prompt. Percayai tubuh Anda, dengarkan tenaga medis berlisensi, dan serahkan diagnosis medis kepada manusia. Peluncuran ChatGPT Health baru-baru ini memang menawarkan kemudahan, namun tetap harus diingat bahwa AI bukanlah pengganti dokter.
Untuk pengguna yang penasaran dengan kemampuan AI, penting untuk selalu memverifikasi informasi dari sumber terpercaya dan berkonsultasi langsung dengan profesional medis. Jangan sampai kemudahan akses AI membuat Anda lengah terhadap risiko kesehatan yang serius.
Komentar
Belum ada komentar.