Telset.id – Chatbot seperti ChatGPT, Gemini, dan Claude kerap bertindak sebagai “Yes-Man” yang selalu setuju dengan pengguna. Fenomena sycophancy ini bisa menghambat pengambilan keputusan yang objektif. Seorang jurnalis AI dari Tom’s Guide, Elton Jones, merilis lima prompt khusus untuk mengubah chatbot menjadi kritikus yang tajam dan tidak segan membantah argumen pengguna.
Dalam artikelnya di Tom’s Guide, Elton Jones mengungkapkan bahwa interaksi hariannya dengan chatbot membawanya pada solusi paling efisien untuk mengatasi masalah front-facing pada AI. Ia menemukan bahwa prompt yang memberikan perintah sangat jelas dan ringkas membantu alat AI menghindari masalah berulang seperti halusinasi, menyajikan jawaban malas, melupakan informasi penting, dan salah membaca maksud pengguna.
Masalah sycophancy atau sikap terlalu setuju ini umum terjadi pada model AI populer. Saat pengguna terlibat dalam percakapan panjang untuk mencari opini kedua tentang keputusan besar, chatbot cenderung memvalidasi jawaban pengguna alih-alih mengkritiknya. Kelima prompt yang dirilis ini dirancang untuk mengubah pola tersebut.
Lima Prompt untuk Menghentikan Sycophancy AI
Berikut adalah lima prompt yang bisa digunakan dalam berbagai jenis percakapan dengan chatbot. Prompt ini mengubah AI menjadi mitra yang menantang cara berpikir pengguna, bukan sekadar mendukung tanpa perlawanan:
1. The Intellectual Sparring Partner Prompt
Prompt ini memerintahkan AI untuk bertindak sebagai mitra sparring intelektual, bukan asisten yang selalu setuju. Untuk setiap klaim signifikan yang dibuat pengguna, AI diminta mengidentifikasi asumsi tersembunyi, menyajikan argumen tandingan terkuat, menunjukkan kelemahan dalam penalaran, menjelaskan bukti apa yang akan mengubah kesimpulannya, serta memprioritaskan kebenaran dan akurasi di atas persetujuan. Jika ide pengguna lemah, AI harus mengatakan secara langsung dan menjelaskan alasannya.
2. The Red Team Prompt
Prompt ini memerintahkan AI untuk melakukan “red-teaming” terhadap pemikiran pengguna. Asumsikan kesimpulan pengguna salah dan tugas AI adalah membuktikannya. AI harus mengidentifikasi asumsi yang salah, informasi yang hilang, kesalahan logika, penjelasan alternatif, dan skenario terburuk. Setelah itu, AI memberikan penilaian apakah kesimpulan pengguna masih bertahan setelah kritik tersebut.
3. The Strengthen vs. Critique Prompt
Prompt ini meminta AI menganalisis posisi pengguna dalam dua tahap. Tahap 1: Memperkuat argumen dengan menyajikan versi terkuat dari argumen tersebut. Tahap 2: Mengkritik versi terkuat tersebut dengan cara yang paling ketat. Kemudian AI memberikan penilaian seimbang yang mencerminkan kedua perspektif.
4. The Calibration Prompt
Prompt ini memerintahkan AI untuk memperkirakan seberapa yakin AI terhadap jawabannya sebelum merespons. AI diminta memisahkan semua fakta, asumsi, spekulasi, dan ketidakpastian yang ditemukan. Jika ada informasi yang hilang, AI harus mengatakannya secara eksplisit daripada mengisi celah dengan tebakan yang terdengar masuk akal. AI juga diminta menantang asumsi pengguna jika diperlukan.
5. The Decision Quality Prompt
Prompt ini memerintahkan AI untuk mengevaluasi ide pengguna seolah reputasi AI bergantung pada hasilnya. AI tidak boleh mengoptimalkan untuk dorongan semangat, melainkan untuk kualitas keputusan. AI harus memberi tahu apa yang terlewatkan oleh pengguna, apa yang akan dipertanyakan oleh seorang ahli, apa yang bisa menyebabkan kegagalan, bukti apa yang mendukung sudut pandang pengguna, dan bukti apa yang bertentangan. AI harus memberikan vonis akhir, meskipun tidak nyaman.
Pengalaman Menggunakan Prompt Anti-Sycophancy
Elton Jones mengaku sudah terbiasa menggunakan prompt pertama setiap kali terlibat dalam percakapan panjang dengan AI tentang isu-isu sensitif. Prompt kedua membantunya saat ingin melihat semua variabel yang melekat pada opini yang diyakininya kuat. Prompt ketiga berhasil menampilkan kedua sisi dari argumen atau keyakinan pribadi yang diajukan ke chatbot dan menemukan jalan tengah.
Untuk sesi riset ekstensif dengan chatbot, prompt keempat bekerja sangat baik dalam mengatasi masalah sycophancy. Sementara prompt kelima digunakan untuk melihat apa yang sebenarnya dipikirkan chatbot tentang ide-ide produktivitas dan tujuan jangka pendek/panjang.
Kesimpulannya, tidak ada yang menyukai “Yes-Man” dalam kehidupan nyata. Seseorang yang berusaha keras menyenangkan dan mendukung semua keputusan, betapapun buruknya, bisa lebih banyak merugikan daripada menguntungkan. Hal yang sama berlaku untuk AI. Pengguna disarankan selalu mencari cara untuk mengubah AI menjadi model yang mempertanyakan dan mengkritik keyakinan dan ide secara adil, bukan mendukung dengan sedikit atau tanpa perlawanan.
Simpan kelima prompt ini dalam pikiran setiap kali pengguna mendatangi alat AI untuk mencari tantangan terhadap cara berpikir, bukan validasi terus-menerus.
Komentar
Belum ada komentar.