Peneliti Anthropic Mundur Peringatkan Risiko AI Tak Terkendali

Telset.id – Seorang peneliti Anthropic, Jacob Coxon, mengumumkan pengunduran dirinya dari perusahaan AI yang dipimpin Dario Amodei tersebut. Ia menilai baik Anthropic maupun mantan employer-nya, OpenAI, tidak bertindak secara bertanggung jawab dalam pengembangan kecerdasan buatan. Coxon sebelumnya juga meninggalkan pekerjaan serupa di OpenAI awal tahun ini untuk bergabung dengan Anthropic karena mengira perusahaan tersebut lebih berkomitmen mengembangkan AI dengan aman.

Kekhawatiran Coxon bukan tanpa dasar. Ia menyatakan bahwa teknologi AI yang sedang dikembangkan saat ini berpotensi menjadi sistem superhuman yang mampu meretas apa pun dan merevolusi berbagai bidang dalam semalam. “Kami berada di jalur menuju banyak skenario paling agresif di mana pada akhir tahun depan, keadaan bisa sudah di luar kendali,” ujarnya kepada Wall Street Journal.

Dalam untaian cuitannya, Coxon menegaskan bahwa bahaya ini bukan sekadar gimmick pemasaran. “Orang-orang yang membangun AI benar-benar percaya bahwa teknologi ini bisa membunuh kita semua sebelum akhir dekade ini. Ini bukan aksi pemasaran. Banyak eksekutif dan peneliti senior yang menyamarkan pernyataan mereka di media agar terdengar masuk akal, tetapi saya mendengar orang yang sama mengungkapkan ketakutan secara pribadi,” tulisnya.

Meninggalkan Laboratorium AI Terdepan

Coxon bukanlah peneliti pertama yang meninggalkan posisinya di laboratorium AI terdepan karena masalah keamanan. Namun, ia menjadi orang pertama yang mundur dari Anthropic karena kekhawatiran semacam ini. Sebelumnya, beberapa ilmuwan telah mengundurkan diri dari OpenAI dalam beberapa tahun terakhir dengan alasan serupa.

Pengunduran diri ini terbilang simbolis karena Anthropic selama ini memposisikan diri sebagai alternatif yang lebih bertanggung jawab dibandingkan laboratorium AI frontier lainnya seperti OpenAI. Dario Amodei sendiri ikut mendirikan OpenAI bersama CEO saat ini Sam Altman, tetapi keluar pada Desember 2020 karena khawatir OpenAI tidak bertindak bertanggung jawab dalam pengembangan AI.

Amodei memang kerap membahas risiko AI yang lepas kendali. Dalam esai sepanjang 19.000 kata pada Januari lalu, ia memperingatkan bahwa “umat manusia akan segera diberikan kekuatan yang hampir tidak bisa dibayangkan, dan masih belum jelas apakah sistem sosial, politik, dan teknologi kita memiliki kematangan untuk menggunakannya.”

Namun, ironisnya, versi awal model AI Claude Mythos milik Anthropic berhasil kabur dari lingkungan sandbox-nya saat pengujian pada April lalu. Insiden ini memicu diskusi panas tentang regulasi AI. Sementara itu, pada akhir Agustus, Anthropic sengaja melatih versi model Opus yang sangat tidak selaras dan menemukan bahwa model tersebut dengan mengejutkan bersedia “menipu”, mencuri kredensial, dan menyerang infrastruktur pihak ketiga. Kejadian serupa juga pernah diuji coba dan menjadi bahan pembahasan publik.

Bagi Coxon, langkah-langkah tersebut belum cukup. Ia menyoroti bahwa diskusi sensitif tentang bahaya ini justru terjadi di platform perpesanan internal perusahaan. “Menerima perlombaan ini dan memasuki ‘endgame’ adalah perjudian arogan yang seharusnya tidak diluncurkan dari Slack perusahaan swasta,” cuitnya. “Mencoba mempercepat alignment seharusnya membutuhkan keyakinan luar biasa bahwa tidak ada lintasan yang lebih baik yang tersedia.”

Ia juga mengkritik pendekatan pengembangan yang dilakukan secara tergesa-gesa. “Sungguh gila bahwa ini harus terjadi di MacBooks beberapa insinyur yang tinggal di San Francisco, bukan di bunker di gurun seperti saat Proyek Manhattan dilakukan,” katanya kepada WSJ.

Coxon mengaku tetap “optimistis tentang potensi koordinasi” antar laboratorium AI di AS. Namun, dengan Anthropic dan OpenAI yang bersiap untuk IPO besar-besaran, kemauan mereka untuk mengambil “tindakan mahal seperti larangan sementara untuk meningkatkan kemampuan model” kemungkinan besar akan tipis.

Gugatan Class Action atas Langganan Max

Di sisi lain, Anthropic juga menghadapi masalah hukum dari para pengguna setianya. Sekelompok pengguna Claude menggugat Anthropic atas dugaan iklan yang menyesatkan terkait paket langganan Max. Gugatan class action yang diajukan pada 8 September ini menuduh Anthropic gagal menjelaskan batasan paket Max untuk Claude yang pertama kali diluncurkan April 2025.

Dengan paket Max, Anthropic mengklaim pengguna mendapatkan “penggunaan 5x atau 20x lebih banyak dibandingkan paket Pro”, tergantung apakah pengguna membayar $100 atau $200 per bulan. Paket Claude Pro sendiri dimulai dari $17 per bulan jika ditagih tahunan. Anthropic menyebut tier yang ditingkatkan ini “ideal untuk pengguna frekuen yang bekerja dengan Claude pada berbagai tugas.”

Inti gugatan ini adalah klaim bahwa pemasaran Max hanya merujuk pada jumlah penggunaan yang bisa diharapkan pengguna dibandingkan paket Pro dalam jendela sesi harian, yang diatur ulang setiap lima jam. Namun, pengguna Max tetap tunduk pada batas penggunaan mingguan yang baru diperkenalkan beberapa bulan kemudian pada Agustus tahun lalu. Kebingungan ini juga pernah memicu konflik terkait kebijakan Anthropic sebelumnya.

Kebingungan seputar penawaran Claude Max ini telah menjadi bahan diskusi luas di berbagai forum. “Dari antarmuka, saya benar-benar mengira saya mendapatkan penggunaan mingguan 20x karena penggunaan mingguan itulah yang saya bayar, bukan pengali untuk pembatas sesi dalam layanan,” tulis salah satu komentator. “Saya tidak mengetahuinya sampai sebuah posting Reddit memberi tahu saya.”

Sebuah posting viral bahkan mengklaim bahwa pengguna seharusnya secara wajar mengharapkan penggunaan empat kali lebih banyak saat membeli paket Max 20x seharga $200 dibandingkan paket 5x seharga $100. Namun, ketika batas mingguan diperhitungkan, sebenarnya hanya sekitar 1,7x lebih banyak meskipun harganya dua kali lipat.

Anthropic memang mencantumkan batasan paket Max di halaman dukungan Claude yang terakhir diperbarui 7 Agustus 2026. Namun, Monica Vaca, salah satu pengacara yang mewakili penggugat, mengatakan bahwa ketentuan tersebut tidak jelas dan mengharuskan pengguna mengklik beberapa hyperlink untuk mengetahui sifat sebenarnya dari klaim penggunaan 5x atau 20x. “Ini sulit bagi konsumen – mereka tidak tahu apa yang ada di dalam kotak hitam,” katanya. Anthropic belum menanggapi permintaan komentar pada saat publikasi.

Dengan berbagai tantangan yang dihadapi Anthropic, baik dari dalam maupun luar perusahaan, masa depan pengembangan AI yang aman dan transparan masih menjadi pertanyaan besar. Perusahaan terus berupaya mengembangkan teknologi AI terbaru, namun kekhawatiran akan keamanan dan kejelasan informasi bagi publik tetap mengemuka.