Telset.id – Anthropic menyatakan dalam dokumen S-1A yang diperbarui pada Senin bahwa perusahaan AI tersebut berpotensi segera memenuhi definisi internalnya sendiri soal recursive self-improvement (RSI). Pernyataan ini muncul di bagian Risk Factors pengajuan resmi perusahaan, di tengah sorotan terhadap laporan keuangan Anthropic yang menunjukkan pendapatan melesat namun beban biaya ikut membengkak.
Dalam dokumen tersebut, Anthropic mengungkapkan bahwa penggunaan sistem AI untuk mempercepat riset dan pengembangan internalnya dapat membuat kapabilitas model mereka melaju lebih cepat daripada kemampuan perusahaan mengembangkan, memvalidasi, dan menerapkan langkah keamanan, alignment, serta keamanan siber yang memadai. Perusahaan juga mengakui bahwa mereka “di masa lalu tidak mengidentifikasi, dan mungkin di masa depan tidak akan mengidentifikasi, percepatan signifikan dalam laju pengembangan sampai hal itu sudah terjadi.”
Pernyataan paling menonjol ada pada bagian yang menegaskan estimasi internal dan ekspektasi terhadap model-model mendatang, bukan model saat ini, yang mengindikasikan Anthropic “mungkin segera memenuhi definisi Responsible Scaling Policy tentang ‘dramatically accelerated progress attributable to AI’.” Namun, Anthropic menegaskan belum menetapkan satu pun model yang ada saat ini sebagai melewati ambang batas tersebut, dan mereka masih terus menilai data yang mendasarinya.
Apa Itu Recursive Self-Improvement dan Mengapa Dipersoalkan
RSI merujuk pada titik ketika AI menjadi begitu mahir melatih dirinya sendiri sehingga memicu percepatan dramatis kapabilitas AI. Bagi kalangan yang khawatir akan risiko AI, RSI dipandang sebagai titik kritis tanpa jalan kembali, di mana AI membangun dirinya menjadi sesuatu yang cukup kuat hingga lepas dari kendali manusia dan mungkin tidak peduli terhadap kerusakan yang ditimbulkannya dalam mencapai tujuannya. Sebaliknya, bagi para penggemar AI, RSI atau versi AI yang andal menggunakan dirinya untuk berkembang mewakili janji teknologi tersebut, menjadi alat produktivitas dan penemuan ilmiah yang tak terbayangkan.
Anthropic tampaknya memandang RSI sebagai janji sekaligus bahaya. Dalam S-1, perusahaan menyatakan menggunakan AI dalam riset dan pengembangan mereka, namun memperingatkan bahwa “menggunakan AI untuk membantu membangun AI yang lebih mampan juga dapat menimbulkan risiko keselamatan yang cukup besar, terutama jika hal itu tajam mempercepat laju kemajuan.” Perusahaan menyebut ini sebagai salah satu area yang tercakup dalam Responsible Scaling Policy mereka, yang menetapkan rencana untuk memantau dan memitigasi risiko saat mendekati apa yang disebut sebagai “recursive self-improvement.”
Ketika istilah RSI menjadi populer awal tahun ini, banyak pihak meyakini istilah tersebut sekadar buzzword atau, paling banter, sebuah tujuan yang terlalu sulit dicapai, didefinisikan, atau dibuktikan. Namun pada Senin, Anthropic menambahkan pernyataan baru ke bagian Risk Factors dengan dua poin utama. Pertama, perusahaan telah menggunakan AI untuk mengembangkan model-model baru yang lompatan kapabilitasnya tidak mereka sadari pada saat itu. Kedua, mereka mungkin segera memenuhi definisi internal RSI mereka sendiri.
Anthropic juga menyatakan dalam pengajuan tersebut bahwa belum ada model mereka yang melewati ambang batas RSI ini dan berjanji menjaga manusia tetap berada dalam proses riset dan pengembangan untuk masa depan yang dapat diperkirakan. “Kami tidak mengantisipasi dapat menggunakan Claude secara aman untuk sepenuhnya merancang dan membangun generasi-generasi model frontier secara otonom tanpa pengawasan atau pemahaman manusia yang berarti, jika dan ketika hal itu menjadi mungkin secara teknis,” tulis Anthropic. “Oleh karena itu, kami mempertimbangkan pembaruan terhadap Responsible Scaling Policy kami untuk menjaga manusia tetap mengendalikan pengembangan model frontier di Anthropic.”
Sinyal Kapabilitas Claude dan Sikap Skeptis
Kalangan skeptis dapat menunjukkan bahwa dokumen S-1 berfungsi ganda sebagai pengungkapan sekaligus pemasaran, sehingga klaim bahwa Anthropic hampir mencapai model yang cukup kuat untuk membangun dirinya sendiri bisa masuk kategori yang disebut terakhir. Meski demikian, tidak dapat dipungkiri bahwa kapabilitas Claude, terutama dalam hal coding, matematika, dan keamanan siber, telah tumbuh dengan lompatan besar sepanjang tahun ini. Hal ini sejalan dengan laporan bahwa Claude AI mempercepat riset obat hingga ke tahap desain molekul dan dokumen klinis.
Pernyataan tentang RSI ini juga muncul di tengah dinamika kompetisi industri AI yang memanas. Sebelumnya, laporan menyebutkan bahwa OpenAI gagal mengumpulkan target dana dan nilai perusahaannya kalah dari Anthropic, menunjukkan posisi Anthropic yang tengah diperhitungkan di pasar. Di sisi lain, kemampuan Claude yang dinilai lebih jago ngoding bahkan membuat Anthropic menghentikan coding interview sebagai bagian dari proses rekrutmennya.
Langkah Anthropic memasukkan peringatan RSI ke dalam dokumen resmi S-1 menandai perubahan nada yang signifikan. Perusahaan tidak sekadar berbicara soal potensi teknologi di blog atau makalah riset, melainkan memasukkannya ke dalam pengungkapan risiko yang ditujukan kepada regulator dan calon investor. Ini menjadikan RSI bukan lagi wacana komunitas, melainkan faktor risiko formal yang harus dipertimbangkan dalam konteks bisnis dan tata kelola perusahaan AI.
Dari sisi pemanfaatan, Anthropic juga tercatat telah merambah sektor lain. Perusahaan disebut masuk industri farmasi untuk mempercepat riset obat, memperlihatkan bahwa kapabilitas model mereka mulai diterapkan di luar pengembangan perangkat lunak. Ekspansi ini menambah konteks mengapa percepatan kapabilitas AI, termasuk potensi RSI, menjadi isu yang relevan tidak hanya bagi internal Anthropic tetapi juga bagi industri yang memanfaatkan model tersebut.
Dengan pernyataan bahwa kemungkinan RSI mungkin sudah dekat, Anthropic pada dasarnya menempatkan isu ini sebagai sesuatu yang perlu disikapi serius. Jika Anthropic sendiri menilai kemungkinan tersebut mendekat, maka wajar bila publik dan pembuat kebijakan mempertimbangkan langkah tata kelola yang sesuai. Pengajuan S-1 ini menjadi titik di mana klaim tentang AI yang mampu membangun dirinya sendiri berpindah dari diskusi spekulatif ke dokumen formal yang dapat diaudit dan dipertanggungjawabkan.
[ META_DESCRIPTION ]
Anthropic sebut Claude nyaris capai recursive self-improvement dalam S-1A. Perusahaan akui belum ada model yang lewati ambang batas RSI.
Komentar
Belum ada komentar.