Telset.id – Sekitar 150 pakar matematika dunia menandatangani deklarasi yang memperingatkan pemerintah agar tidak mempercayai klaim berlebihan terkait kemampuan AI memecahkan masalah matematika kompleks. Langkah ini muncul setelah OpenAI mengklaim model AI-nya berhasil mematahkan konjektur “jarak satuan” berusia 80 tahun yang dirumuskan matematikawan Hungaria, Paul Erdos.
Klaim OpenAI tersebut sontak mengundang kontroversi. Sebelumnya, seorang pemuda usia 23 tahun tanpa pelatihan matematika mengklaim memakai ChatGPT untuk memecahkan salah satu soal menantang dari Erdos. Namun, para ahli menilai klaim-klaim ini perlu diuji secara ketat.
Dalam pernyataan yang menyertai 11 halaman “Deklarasi Leiden tentang AI dan Matematika”, Wakil Presiden International Mathematical Union, Ulrike Tillmann, menegaskan bahwa AI menimbulkan berbagai pertanyaan yang tidak boleh dibiarkan tanpa pengkajian. “Masa depan penelitian matematika harus dipandu penilaian manusia, praktik adil dan transparan, serta nilai-nilai bersama dari komunitas matematika global,” ujar Tillmann.
Deklarasi tersebut secara eksplisit menyoroti insentif komersial di balik klaim-klaim besar industri AI. “Saat ini terdapat insentif komersial kuat di pihak industri teknologi untuk melebih-lebihkan kemampuan produk mereka,” bunyi deklarasi tersebut. Dokumen ini menyarankan pembuat kebijakan berkonsultasi dengan para ahli, termasuk matematikawan, dalam mengambil keputusan terkait pengembangan AI.
Ancaman Solusi Palsu yang Meyakinkan
Salah satu kekhawatiran utama yang diangkat dalam deklarasi adalah potensi model AI menghasilkan solusi yang tampak meyakinkan namun sebenarnya salah. Kepala Ilmu Komputer Universitas Oxford, Leslie Ann Goldberg, memperingatkan bahwa teknik otomatisasi saat ini dapat menghasilkan argumen yang terdengar masuk akal namun tak dapat diandalkan atau bahkan salah.
“Teknik otomatisasi saat ini dapat menghasilkan argumen yang terdengar masuk akal namun tak dapat diandalkan (atau bahkan salah) yang sulit dibedakan dari pembuktian matematika yang benar,” kata Goldberg. Hal ini menjadi masalah serius karena dapat menyesatkan peneliti dan publik.
Deklarasi Leiden juga menyoroti posisi rentan banyak akademisi. Mendapatkan pendanaan baru sangat sulit sementara minat terhadap AI terus melonjak, yang sering kali memaksa mereka mendukung teknologi tersebut dengan cara apa pun. Kondisi ini menciptakan konflik kepentingan yang dapat mengaburkan penilaian objektif.
Selain masalah matematika, dokumen tersebut mencatat ada banyak alasan lain untuk menyerukan regulasi yang melampaui bidang tersebut. Ini termasuk keterlibatan industri AI dalam militer dan pengawasan massal, pengembangan teknologi yang mempromosikan misinformasi dan merusak demokrasi, serta dampak lingkungan yang merusak.
Baca Juga:
Masalah Data Tanpa Izin
Isu etis lainnya yang diangkat adalah penggunaan data untuk melatih model AI. Antropolog AI Universitas Leiden, Rodrigo Ochigame, menyoroti bahwa model AI dilatih menggunakan data yang sering tanpa persetujuan penulis asli. “Matematikawan yang tak pernah berniat berkontribusi pada pengembangan AI mendapati karya mereka digunakan untuk tujuan ini tanpa persetujuan. Saya pikir itu adalah situasi yang sangat mengkhawatirkan,” kata Ochigame.
Para pakar menekankan bahwa klaim OpenAI tentang AI yang berhasil memecahkan konjektur “jarak satuan” perlu diuji secara independen. Klaim serupa sebelumnya juga menuai skeptisisme karena banyak solusi AI yang ternyata tidak dapat direproduksi atau mengandung kesalahan fundamental.
Deklarasi Leiden menjadi teguran publik yang mungkin terkeras terhadap industri AI dari komunitas matematika global. Dokumen ini menyerukan pendekatan yang lebih hati-hati dan transparan dalam mengevaluasi kemampuan AI, terutama di bidang yang membutuhkan presisi tinggi seperti matematika.
Para ahli matematika mendesak pemerintah dan lembaga pendanaan untuk tidak terburu-buru mengambil keputusan berdasarkan klaim sensasional dari industri teknologi. Mereka meminta agar evaluasi kemampuan AI dilakukan oleh panel ahli independen yang kompeten di bidangnya.
Deklarasi ini juga menyoroti pentingnya menjaga integritas penelitian matematika di tengah tekanan komersial. Masa depan penelitian matematika, menurut Tillmann, harus dipandu penilaian manusia, bukan oleh hype teknologi.
Isu ini menjadi peringatan bagi pengguna teknologi di Indonesia. Klaim kemampuan AI yang berlebihan tidak hanya berpotensi menyesatkan riset akademis, tetapi juga dapat berdampak pada kebijakan publik yang keliru jika diadopsi tanpa verifikasi yang memadai.
Dengan semakin masifnya adopsi AI di berbagai sektor, para ahli menekankan pentingnya literasi kritis terhadap klaim-klaim dari industri teknologi. Regulasi yang tepat dan keterlibatan para ahli independen menjadi kunci untuk memastikan pengembangan AI yang bertanggung jawab.
Deklarasi Leiden tentang AI dan Matematika diharapkan menjadi titik awal diskusi yang lebih mendalam tentang batasan dan risiko AI, khususnya di bidang-bidang yang membutuhkan akurasi dan validasi ketat seperti matematika dan sains.
Komentar
Belum ada komentar.