Telset.id – Perdebatan soal AI safety kembali memanas setelah CEO Anthropic Dario Amodei menerbitkan rencana untuk “memperlambat laju frontier”, sementara CEO Nvidia Jensen Huang secara terbuka menggema klaim Presiden Donald Trump bahwa gelombang penolakan terhadap AI adalah hoaks dan regulasi tidak diperlukan. Perbedaan sikap dua tokoh industri ini muncul dalam diskusi terbaru podcast Equity milik TechCrunch yang membahas apakah para eksekutif seperti Amodei dan CEO OpenAI Sam Altman benar-benar serius ingin memperlambat pengembangan AI.
Dalam episode tersebut, Kirsten Korosec, Sean O’Kane, dan Anthony Ha membedah rencana Amodei yang dinilai minim detail. Meski begitu, Anthony mengaku terkejut karena banyak pemimpin industri tampak cepat mendukung rencana itu. Ia menyebut usulan tersebut sebenarnya sudah lama muncul dari komunitas AI safety dan bukan gagasan yang tiba-tiba diciptakan Amodei sendiri. Namun, ia tetap skeptis bahwa dukungan itu akan berujung pada langkah besar menuju perlambatan yang nyata.
Sean O’Kane menilai rencana Amodei masih kehilangan banyak spesifikasi, baik soal alasan di balik klaim risiko maupun soal apa yang sebenarnya dimaksud dengan memperlambat. Ia bahkan menyebut istilah “pace the frontier” terdengar seperti sesuatu dari film “Point Break”. Menurutnya, perusahaan-perusahaan AI tidak dibangun dengan struktur yang memungkinkan perlambatan berjalan efektif.
Kirsten Korosec mengingatkan bahwa konsensus bisa menjadi hal baik, tetapi juga bisa menjadi awal pembentukan kartel. Ia menegaskan pembahasan ini menyangkut frontier AI labs secara spesifik. Secara umum, rencana yang beredar mencakup tiga gagasan: evaluator pihak ketiga independen yang bekerja di dalam perusahaan seperti Anthropic atau OpenAI untuk memantau praktik dan insiden AI safety, koordinasi antarperusahaan AI besar di negara-negara demokratis soal standar dan batas keamanan, serta koordinasi internasional. Namun, Kirsten menilai masih banyak hal yang kabur dari usulan-usulan tersebut.
Kirsten juga mencatat adanya penolakan cukup besar, termasuk dari pihak yang tak ia duga. Salah satunya Jensen Huang, yang melontarkan komentar tajam dan menerima panggilan dari Presiden Trump saat berada di atas panggung All-In Summit. Sean menilai Huang memahami posisinya sebagai “orang dewasa di ruangan” dalam dinamika industri ini. Menurutnya, peran itu sebelumnya dipegang Microsoft dan Satya Nadella, tetapi Microsoft kehilangan cengkeraman tersebut karena sejumlah alasan. Sean menyebut Huang juga berperan sebagai penghubung antara industri AI dan pemerintahan, sehingga ia berusaha menyampaikan hal paling terukur kepada sebanyak mungkin pihak.
Kirsten menilai penampilan Huang terasa sedikit direkayasa dan terlalu jauh, sekaligus menyoroti fakta bahwa Nvidia sangat diuntungkan jika AI bergerak maju tanpa perlambatan. Ia mengaku sinis, tetapi itulah reaksi awalnya. Anthony menambahkan bahwa kepentingan Trump dan Huang sejalan, dan Huang menyampaikan apa yang ingin didengar Trump.
Anthony menyoroti satu hal menarik: istilah “slowdown” yang sering muncul, padahal Altman dan Amodei lebih suka memakai kata “pace”. Menurutnya, tiga proposal yang diuraikan Kirsten secara teori bisa membuat laju melambat, tetapi tidak ada yang menyatakannya secara eksplisit. Usulan itu lebih berbunyi soal langkah keamanan dasar dan pengawasan, bukan pernyataan bahwa segalanya harus berjalan lebih lambat dari kondisi saat ini.
Kirsten kemudian melempar pertanyaan kepada Sean: tidakkah bisa dikatakan bahwa dalam masyarakat pasar bebas, dengan regulasi yang sudah ada dan lingkungan kompetitif tanpa proteksionisme, perusahaan yang merilis produk tidak aman akan kehilangan kelayakan sebagai perusahaan? Sean menjawab bahwa dalam ruang hampa atau pasar yang tidak terdistorsi tekanan eksternal, ada elemen kebenaran di sana. Namun, ia menegaskan pemerintah federal saat ini tidak tampak bersemangat menegakkan regulasi secara luas, apalagi secara spesifik di sektor ini.
Sean juga menyoroti tidak adanya pilihan konsumen yang cukup kuat untuk menggerakkan pasar. Jika salah satu perusahaan melakukan hal buruk, dampaknya terhadap jumlah pembatalan atau semacamnya tidak signifikan. Terlebih lagi, karena perusahaan-perusahaan itu kini bergerak ke enterprise dan meraup lebih banyak pendapatan dari penjualan layanan ke korporasi, konsumen jadi lebih sulit “memilih dengan dolar” mereka. Korporasi tidak akan pindah dari Codex milik OpenAI ke Claude Code milik Anthropic hanya karena perbedaan prinsip. Ditambah lagi, perusahaan-perusahaan itu dibiayai oleh begitu banyak dana investasi sehingga lebih mudah menyerap kerugian jika benar-benar menghadapinya.
Sean menyimpulkan bahwa gagasan soal pasar bebas dan regulasi yang ada terdengar bagus secara teori, tetapi dalam praktiknya tidak ada yang benar-benar berjalan seperti itu. Dinamika ini memperlihatkan bahwa debat AI safety bukan sekadar soal teknis, melainkan juga soal siapa yang mengendalikan laju, siapa yang diuntungkan, dan seberapa besar tekanan publik maupun regulator benar-benar bekerja.
Bagi pembaca yang mengikuti perkembangan industri teknologi, perdebatan ini menjadi penanda penting bahwa narasi soal keamanan AI masih jauh dari kata selesai. Ketegangan antara dorongan untuk melaju dan seruan untuk memperlambat akan terus menentukan arah kebijakan, investasi, dan produk AI yang akhirnya sampai ke tangan pengguna.
Komentar
Belum ada komentar.