Telset.id – Anthropic tengah mengembangkan FlashProve, sistem open source yang dirancang untuk memverifikasi model AI mana yang benar-benar menghasilkan sebuah output. Sistem ini diperkenalkan melalui blog post yang diterbitkan Selasa dan bertujuan memberikan jaminan matematis bahwa suatu jawaban berasal dari model tertentu, bukan dari model lain yang menyamar.
Kemampuan verifikasi ini menjadi krusial di tengah maraknya penggunaan model AI komersial. Pengguna sering kali tidak memiliki cara untuk memastikan bahwa jawaban yang mereka terima benar-benar berasal dari model yang mereka pikir sedang digunakan. FlashProve hadir untuk menutup celah tersebut melalui pendekatan kriptografis yang disebut “provable inference”.
Bagaimana FlashProve Bekerja
Sistem ini bekerja mirip dengan tanda tangan email kriptografis yang memungkinkan penerima mengonfirmasi bahwa sebuah pesan benar-benar berasal dari pengirim yang diklaim. FlashProve disebut robust terhadap upaya impostor yang mencoba menyamarkan satu model sebagai model lain, bahkan ketika impostor tersebut adalah laboratorium yang membangun dan menjalankan model itu sendiri.
Untuk beroperasi, FlashProve memerlukan langkah konkret dari para pelaku industri. AI lab harus mempublikasikan “fingerprint” dari setiap model yang mereka rilis. Fingerprint inilah yang nantinya dapat dicocokkan dengan output spesifik dan diverifikasi secara kriptografis.
Yang membuat pendekatan ini menarik adalah fingerprint tersebut tidak mengungkap bobot model alias weights, yaitu angka internal yang menentukan perilaku model dan selama ini dijaga kerahasiaannya oleh pembuat model tertutup seperti Anthropic dan OpenAI. Artinya, lab dapat mempublikasikan fingerprint tanpa harus menyerahkan aset paling berharga mereka, sehingga sistem ini memungkinkan untuk diterapkan pada model komersial sekaligus.
Sistem ini juga dirancang ringan agar verifikasi dapat dilakukan pada perangkat lokal. Dengan begitu, pengguna tidak perlu bergantung pada infrastruktur pihak ketiga untuk memeriksa keaslian output yang mereka terima.
Mencegah Penyalahgunaan dan Klaim Palsu
Para peneliti menyoroti sejumlah skenario yang dapat dicegah oleh FlashProve. Salah satunya adalah mencegah perusahaan AI secara diam-diam menukar model dengan versi yang lebih murah untuk menekan biaya, atau justru memakai model yang lebih mahal untuk memperbesar hasil performa yang dilaporkan.
Selain itu, FlashProve dapat digunakan untuk memverifikasi klaim pihak ketiga bahwa suatu tugas tertentu dikerjakan oleh model canggih. Para peneliti mencontohkan seorang developer yang mengklaim bahwa software library miliknya telah dipindai untuk mencari kerentanan oleh model keamanan siber frontier, atau sebuah perusahaan yang mengklaim bahwa rencana bisnisnya telah disetujui oleh model yang sesuai. “Bagaimana pengguna dapat memverifikasi klaim-klaim ini?” tulis para peneliti.
Sebagai bagian dari pengumuman ini, para peneliti merilis spesifikasi teknis terperinci dan kode kerja untuk berbagai elemen sistem. Kode tersebut tersedia secara publik di GitHub dengan lisensi open source. Langkah ini sejalan dengan komitmen keterbukaan yang juga terlihat dalam inisiatif lain, seperti dukungan Sinyal Opt-Out AI di robots.txt yang melibatkan sejumlah perusahaan AI besar.
Baca Juga:
Penelitian atas sistem ini masih berlangsung dan belum ada rencana untuk menerapkannya di Anthropic maupun di lab lain. Para peneliti menegaskan bahwa pengumuman ini bersifat berbagi kemajuan di tahap menengah, bukan agenda riset yang sudah tuntas.
“Postingan riset ini dimaksudkan untuk membagikan kemajuan di tahap menengah, dan bukan agenda riset yang sudah selesai,” jelas para peneliti dalam postingan pengumuman. “Kami membagikan ini secara eksplisit dengan tujuan agar orang lain melihat apa yang telah kami lakukan, mengambilnya, dan memperbaikinya.”
Pengembangan FlashProve menambah panjang daftar inisiatif riset Anthropic di bidang keamanan dan transparansi AI. Sebelumnya, perusahaan ini juga terlibat dalam berbagai pengembangan kapabilitas model Claude, termasuk Percepat Riset Obat yang memanfaatkan kemampuan Claude untuk desain molekul hingga penyusunan dokumen klinis.
Di sisi lain, riset internal Anthropic juga pernah menyoroti potensi kapabilitas model mereka. Perusahaan sempat menyebut bahwa Claude Nyaris Capai recursive self-improvement, sebuah temuan yang menimbulkan diskusi tersendiri soal arah pengembangan AI frontier.
Dengan FlashProve, Anthropic tampaknya ingin mendorong terciptanya standar verifikasi yang terbuka bagi industri AI secara keseluruhan. Publikasi spesifikasi teknis dan kode kerja di GitHub menjadi undangan bagi komunitas peneliti untuk menguji, mengkritik, dan menyempurnakan pendekatan ini. Karena belum ada rencana deployment, posisi FlashProve saat ini murni sebagai kontribusi riset terbuka yang bisa dikembangkan lebih lanjut oleh siapa pun yang tertarik.
Komentar
Belum ada komentar.