Telset.id – Salah satu pendiri perusahaan AI raksasa Anthropic, Jack Clark, justru menyerukan perlunya kemampuan untuk memperlambat laju perkembangan kecerdasan buatan (AI). Ia memperingatkan bahwa teknologi ini mendekati titik di mana ia dapat berkembang tanpa campur tangan manusia, sebuah kondisi yang dinilai sangat berbahaya.
Dalam pernyataannya yang dikutip dari BBC pada Jumat (5/6/2026), Clark menggambarkan kondisi industri AI saat ini seperti kendaraan yang hanya memiliki pedal gas tanpa pedal rem. “Anda tentu menginginkan opsi untuk bisa melepaskan kaki dari pedal gas dan menginjak pedal rem. Saat ini industri AI ibaratnya hanya memiliki pedal gas, tanpa pedal rem,” tegasnya.
Clark menekankan bahwa masyarakat, melalui kebijakan pemerintah, harus tetap memegang kendali atas sistem AI yang ke depannya akan menjadi semakin kuat dan berdampak lebih luas. Ia menambahkan bahwa dunia perlu merenungkan hal ini dan pada akhirnya harus menyusun sejumlah regulasi baru yang membuat masyarakat merasa yakin dan aman dengan sistem-sistem tersebut.
Salah satu fakta mengejutkan yang diungkap Clark adalah bahwa chatbot populer milik Anthropic, Claude, saat ini beroperasi menggunakan kode yang 80%-nya ditulis sendiri oleh sistem tersebut. Menurutnya, mencapai angka 100% sangat mungkin terjadi dalam kurun waktu dua tahun dan hal itu akan membawa implikasi yang sangat besar bagi umat manusia.
Meskipun memberikan peringatan keras, Clark tidak menjabarkan secara detail bagaimana “pedal rem” untuk AI ini dapat diciptakan. Namun, ia menarik persamaan yang menarik antara perkembangan AI dengan ledakan industri minyak beserta para konglomeratnya di masa lalu.
“Respons masyarakat kala itu adalah merumuskan kebijakan dan kerangka regulasi yang masuk akal, memberi masyarakat keyakinan akan minyak beserta manfaat yang bisa diberikan ke dunia. Ini berarti Anda tidak perlu lagi mengkhawatirkan karakter dari orang-orang yang memimpin perusahaan tersebut. Itulah arah yang jelas akan kita tuju saat ini,” jelasnya.
Paradoksnya, di tengah peringatan keras tersebut, Anthropic justru menyambut baik perintah eksekutif tentang AI dari Presiden AS Donald Trump yang tidak mewajibkan perusahaan AI tunduk pada pengujian keamanan oleh pemerintah. Langkah ini dinilai kontradiktif dengan kekhawatiran yang disuarakan oleh pendirinya sendiri.
Anthropic sendiri berkembang begitu pesat sejak didirikan lima tahun lalu. Kini perusahaan tersebut bersiap untuk debut di pasar saham. Pencatatan saham ini diproyeksi menjadi salah satu yang pertama oleh perusahaan AI pendatang baru, sekaligus menjadi salah satu pencatatan saham paling berharga dalam sejarah. Valuasi Anthropic diperkirakan hampir mencapai USD 1 triliun.
Baca Juga:
Motivasi di Balik Peringatan
Clark menegaskan bahwa motivasi Anthropic untuk membahas peningkatan kapabilitas teknologi AI secara publik bukanlah untuk memoles reputasinya di mata pelanggan berbayar. Ia hanya ingin memberi tahu dunia mengenai apa yang mereka lihat di dalam perusahaan-perusahaan ini dengan teknologi yang tidak biasa tersebut.
Sejak didirikan oleh Dario Amodei, Clark, dan beberapa eksekutif lainnya, Anthropic memang dikenal vokal terhadap risiko AI. Perusahaan ini bahkan terlibat perselisihan dengan Departemen Pertahanan AS atas kekhawatiran bahwa perangkat AI-nya digunakan untuk pengawasan massal dan peperangan otonom.
“Saya khawatir akan nasib anak-anak saya jika kita sebagai masyarakat tidak melakukan pembicaraan serius mengenai makna dari implikasi kemajuan AI yang terus berlanjut. Ada potensi manfaat yang besar. Namun ada pula risiko-risikonya,” ungkap Clark dengan nada serius.
Salah satu risiko terbesar yang disorot adalah disrupsi perekonomian. Perusahaan-perusahaan teknologi besar telah melakukan PHK massal, dengan sering kali menjadikan peningkatan kemampuan AI untuk melakukan pekerjaan engineer sebagai alasannya. Fenomena ini menunjukkan betapa nyatanya ancaman AI terhadap lapangan kerja manusia.
Namun, Clark memberikan secercah optimisme. Ia menilai orang-orang kreatif dan memiliki ide-ide justru mungkin unggul dibanding AI. “Masih ada pertanyaan yang belum terjawab mengenai apakah sistem AI bisa benar-benar kreatif, belum ada bukti nyata untuk itu saat ini,” tambahnya.
Peringatan dari salah satu tokoh kunci di industri ini menjadi sinyal penting bagi seluruh dunia. Ketika sang pembuat teknologi justru meminta rem darurat, sudah saatnya masyarakat dan pemerintah duduk bersama untuk merumuskan masa depan AI yang lebih aman dan terkendali. Iklan Samsung baru-baru ini juga menyoroti pentingnya privasi di era digital yang semakin terhubung dengan AI.
Dengan valuasi yang hampir mencapai USD 1 triliun, Anthropic menjadi salah satu pemain kunci yang akan menentukan arah regulasi AI global. Peringatan Clark ini bisa menjadi titik balik dalam bagaimana dunia memandang dan mengatur pengembangan kecerdasan buatan di masa depan.
Komentar
Belum ada komentar.