Telset.id – Sebuah rekomendasi jalur pendekatan dari ChatGPT membuat dua pendaki asal Lithuania terjebak di lereng gunung di Polandia pada awal Juli lalu. Keduanya harus dievakuasi menggunakan helikopter oleh tim penyelamat setelah mengikuti saran chatbot tersebut yang mengarahkan mereka ke medan berbahaya tanpa perlengkapan yang memadai.
Insiden ini menjadi bukti terbaru bahwa kecerdasan buatan atau AI masih memiliki keterbatasan serius dalam memberikan saran navigasi dan perjalanan, terutama di lingkungan alam yang tidak terstruktur. Kasus ini juga mempertegas risiko dari ketergantungan berlebihan pada chatbot untuk perencanaan aktivitas berisiko tinggi.
Menurut laporan dari Cybernews, kedua pendaki tersebut bertujuan mencapai Lembah Lima Danau (Five Lakes Valley) di Pegunungan Tatra. Mereka kemudian bertanya kepada ChatGPT untuk mencari rute yang lebih cepat menuju lokasi tersebut. Jawaban dari chatbot itu membawa mereka mendaki menuju area Niebieska Turnia dan melewati lintasan Świnicka Ławka, sebuah jalur yang membutuhkan pengalaman panjat tebing yang tidak dimiliki oleh keduanya.
Sesampainya di titik tersebut, para pendaki tidak bisa melanjutkan perjalanan maupun kembali turun sendirian. Mereka akhirnya menghubungi Tatra Volunteer Search and Rescue (TOPR), sebuah organisasi penyelamat nirlaba Polandia, pada tanggal 4 Juli. TOPR mengonfirmasi bahwa kedua pendaki berhasil dievakuasi dengan selamat menggunakan helikopter.
Insiden ini bukanlah kasus pertama di mana saran perjalanan dari AI berujung pada situasi berbahaya. Sebelumnya, pada tahun lalu, seorang pasangan di British Columbia, Kanada, mengalami masalah serupa ketika rute yang direncanakan oleh AI membuat mereka terdampar di Gunung Unnecessary tanpa perlengkapan yang sesuai dan tanpa pengetahuan tentang kondisi cuaca di medan tersebut, sehingga tim penyelamat setempat harus turun tangan.
Lebih jauh lagi, pelacak insiden AI dari Organisation for Economic Co-operation and Development (OECD) juga mencatat kasus di mana chatbot menciptakan destinasi wisata yang sepenuhnya fiktif. Contohnya, sebuah tempat bernama “Sacred Canyon of Humantay” di Peru disebut-sebut oleh AI, padahal lokasi tersebut tidak ada di dunia nyata.
Baca Juga:
Masalah ini tidak terbatas pada aktivitas pendakian atau penggunaan ChatGPT saja. Sebuah laporan dari awal tahun ini menemukan bahwa ringkasan ulasan yang ditulis oleh AI di TripAdvisor cenderung mengecilkan keluhan serius tentang keselamatan di hotel. Sistem AI tersebut menggambarkan properti hotel sebagai tempat yang bersih dan sempurna, meskipun ada laporan dari tamu tentang kegagalan higienitas dan pelecehan.
Dalam semua kasus tersebut, AI menghasilkan jawaban yang tampak meyakinkan dan bersih untuk situasi yang sebenarnya tidak pernah sederhana. Baik itu kondisi medan yang berbahaya atau kondisi hotel yang bermasalah, AI gagal menangkap kompleksitas dan nuansa yang hanya bisa dipahami oleh penilaian manusia.
Para ahli memperingatkan bahwa risiko utama dari penggunaan AI untuk perencanaan perjalanan adalah kemampuannya untuk menghasilkan informasi dengan percaya diri tinggi, meskipun informasi tersebut salah atau tidak lengkap. Fenomena ini dikenal sebagai “halusinasi AI”, di mana model bahasa besar menciptakan fakta yang terdengar masuk akal tetapi tidak memiliki dasar kebenaran.
Untuk pengguna yang ingin memanfaatkan AI dalam perencanaan perjalanan, ada beberapa langkah yang bisa diambil untuk meminimalkan risiko. Pertama, selalu verifikasi informasi dari AI dengan sumber-sumber terpercaya seperti peta resmi, panduan perjalanan profesional, atau forum komunitas. Kedua, jangan pernah menggunakan AI sebagai satu-satunya sumber informasi untuk aktivitas berisiko tinggi seperti pendakian gunung.
Para pendaki yang terjebak di Pegunungan Tatra beruntung karena tim penyelamat TOPR bertindak cepat. Namun, tidak semua situasi berakhir dengan selamat. Kasus-kasus seperti ini menjadi pengingat bahwa AI, meskipun canggih, masih memiliki keterbatasan fundamental dalam memahami konteks dunia nyata.
Baca Juga:
Para pengguna teknologi juga perlu memahami bahwa model AI seperti ChatGPT dilatih menggunakan data dari internet yang mungkin sudah usang, tidak akurat, atau tidak relevan dengan kondisi lokal. Untuk rekomendasi jalur pendakian, faktor-faktor seperti kondisi cuaca terkini, perubahan medan, dan regulasi taman nasional tidak dapat diandalkan dari database statis AI.
Kejadian di Polandia ini juga menyoroti pentingnya literasi digital dalam menggunakan AI. Pengguna harus mampu mengevaluasi secara kritis informasi yang diberikan oleh AI, terutama ketika informasi tersebut berkaitan dengan keselamatan jiwa. Jangan pernah menganggap output AI sebagai kebenaran mutlak tanpa melakukan pengecekan silang.
Dari sisi pengembangan teknologi, insiden-insiden ini mendorong para peneliti AI untuk mencari cara agar model bahasa besar dapat mengakui keterbatasan mereka. Beberapa perusahaan AI sedang mengembangkan sistem yang dapat memberi peringatan kepada pengguna ketika diminta memberikan saran di luar kompetensi mereka.
Namun, hingga teknologi tersebut tersedia secara luas, tanggung jawab utama tetap berada di tangan pengguna. Jika Anda menggunakan ChatGPT atau alat serupa untuk merencanakan perjalanan, jangan percaya begitu saja pada apa yang dikatakannya. Lakukan riset sendiri dan kumpulkan informasi dari sumber terpercaya sebelum berangkat.
Kasus pendaki Lithuania ini menjadi pelajaran berharga bagi semua pengguna AI. Teknologi dapat menjadi alat yang sangat membantu, tetapi tidak boleh menggantikan penilaian manusia, terutama dalam situasi yang melibatkan keselamatan. Pendakian gunung, seperti halnya banyak aktivitas luar ruangan lainnya, membutuhkan persiapan matang yang tidak bisa sepenuhnya didelegasikan ke chatbot.
Komentar
Belum ada komentar.