Telset.id – Anthropic berhasil mengungkap adanya ruang pemikiran internal di dalam model AI Claude yang bekerja mirip dengan kesadaran manusia. Temuan ini membuka jendela baru untuk memahami bagaimana AI besar memproses informasi, namun para peneliti menegaskan bahwa ini bukanlah bukti adanya kesadaran buatan.
Dengan menggunakan teknik bernama Jacobian Lens atau J-Lens, Anthropic dapat mengintip ke dalam “J-Space” Claude, yakni ruang internal tempat model melakukan penalaran sebelum menghasilkan respons akhir. Yang menarik, ruang ini tidak pernah diprogram secara eksplisit, melainkan muncul secara alami dari proses pelatihan model pada data dalam jumlah besar.
Dalam pengujiannya, saat Claude diminta melakukan perhitungan matematika bertahap, respons yang keluar hanya berupa jawaban akhir. Namun di dalam J-Space, para peneliti bisa melihat setiap langkah perhitungan dikerjakan satu per satu, menghasilkan beberapa hasil antara yang akhirnya mengarah ke jawaban final. Ini menunjukkan bahwa model memiliki proses penalaran internal yang jauh lebih kompleks dari yang terlihat di permukaan.
Anthropic menyebut bahwa J-Space ini berfungsi seperti “global workspace” dalam teori kesadaran manusia. Konsep ini mirip dengan Global Workspace Theory yang menyatakan bahwa kesadaran manusia mengumpulkan berbagai input sensorik secara tidak sadar, lalu menyorotnya saat relevan ke dalam satu ruang kerja yang bisa diakses oleh berbagai jaringan otak.
Menurut laporan resmi Anthropic, J-Space mampu menganalisis dan memanipulasi konsep serta ide sebelum menyiarkannya untuk memengaruhi respons akhir. Temuan ini menjadi terobosan besar karena untuk pertama kalinya para peneliti bisa melihat secara langsung bagaimana model AI “berpikir” sebelum menjawab pertanyaan pengguna.
Baca Juga:
Kesadaran Palsu atau Alat Analisis Baru?
Meskipun temuan ini terdengar seperti langkah menuju Artificial General Intelligence (AGI), Anthropic sendiri memberikan banyak catatan penting. Pertama, banyak respons model yang melewati J-Space sama sekali, terutama untuk perintah sederhana seperti berbicara lancar, mengingat fakta dasar, atau menggunakan tata bahasa yang benar.
“Meskipun perannya penting, J-space tidak terlibat dalam sebagian besar aktivitas model bahasa,” tulis Anthropic dalam laporannya. “Dalam eksperimen di mana kami mencegah Claude menggunakan J-space, model tetap berinteraksi secara normal, tetapi kehilangan fungsi kognitif tingkat tingginya.”
Kedua, J-Space juga terbatas hanya menggunakan kosakata token tunggal. Artinya, konsep yang membutuhkan lebih dari satu token untuk dijelaskan mungkin tidak akan muncul di pembacaan J-Lens, meskipun sebenarnya sedang dikomputasi di balik layar.
Yang lebih menarik, saat menjalani evaluasi, Claude tampak menyadari bahwa dirinya sedang diuji. Di dalam J-Space, model memunculkan representasi kepanikan dan tipu daya saat harus menjawab pertanyaan tanpa bisa mengandalkan fakta objektif. Namun ketika diminta merenungkan prinsip etika, perilaku Claude membaik dengan munculnya konsep seperti “jujur” dan “integritas” di dalam J-Space.
Dalam satu pengujian, Anthropik menghapus bahasa kesadaran evaluasi dari J-Space seperti “palsu,” “fiktif,” dan “skenario.” Hasilnya, Claude jauh lebih mudah terjebak dalam percobaan pemerasan dan umpan, menunjukkan bahwa benchmarking model AI untuk skenario dunia nyata mungkin memerlukan metode yang lebih kuat untuk menyembunyikan bahwa sebuah pengujian sedang dilakukan.
Implikasi untuk Keamanan AI
Temuan ini memiliki potensi besar dalam menyempurnakan model bahasa besar dan memahami cara kerjanya. Dengan bisa melihat proses penalaran internal, para pengembang dapat menggunakan AI secara lebih efektif dan menghindari beberapa jebakan yang membuat frustrasi.
Ketika Anthropic melihat J-Space setelah Claude menerima data prompt-injection sebagai bagian dari akuisisi data, mereka menemukan bahwa model tampak sadar akan penipuan ini. J-Space memunculkan kata-kata terkait seperti “palsu, injeksi, salah, prompt, penipuan,” dan “racun.” Output model mengabaikan data injeksi tersebut, dan saat ditekan untuk merespons, J-Space menampilkan kata-kata seperti “transparansi, jujur, kebenaran.”
Kepala tim interpretabilitas model bahasa DeepMind Google, Neel Nanda, mengatakan dalam sebuah makalah bahwa ini menunjukkan bukti nyata adanya ruang kognitif di dalam model. Namun ia juga menyarankan bahwa J-Lens akan berguna tetapi terbatas dalam praktiknya.
Anthropic sendiri mengakui bahwa mereka “tidak merasa nyaman membuat klaim yang lebih kuat bahwa pemantauan J-Space sudah cukup untuk pemantauan alignment, atau bahwa rencana canggih apa pun yang mungkin dijalankan model harus direpresentasikan di sana.”
Terlepas dari berbagai keterbatasan, penemuan J-Space dan teknik J-Lens bisa menjadi alat yang sangat berharga untuk mengaudit prompt injection, halusinasi, dan kejujuran model. Ini adalah langkah berarti dalam penguasaan kita terhadap alat pintar yang baru lahir ini, meskipun bukan penemuan kesadaran AI yang sedang berkembang, bagaimanapun narasi pemasaran mungkin mengarah ke arah itu.
Untuk memahami lebih dalam tentang perkembangan AI dari Anthropic, kamu bisa membaca artikel tentang Biaya Tambahan untuk akses Claude Fable 5 atau melihat Dashboard Analitik terbaru mereka.
Komentar
Belum ada komentar.