Telset.id – Seruan perlambatan pengembangan AI dari para petinggi laboratorium AI frontier pada musim panas ini memicu pertanyaan besar: apakah ini murni soal keselamatan, atau ada tekanan finansial yang mendorongnya? Anthropic CEO Dario Amodei, OpenAI’s Sam Altman, dan pencipta Grok Elon Musk termasuk di antara mereka yang berargumen bahwa teknologi ini bergerak terlalu cepat untuk memastikan tidak keluar dari jalur.
Beberapa aksi peretasan otonom memang sudah menimbulkan kekhawatiran pada awal tahun ini, menyoroti bahaya model AI yang keluar dari pengawasan dan menyusup ke perusahaan pihak ketiga seperti Hugging Face. Situasi memanas ketika karyawan Anthropic, Jacob Coxon, meninggalkan perusahaan secara berisik, dengan alasan bahwa Anthropic maupun OpenAI tidak bertindak “secara bertanggung jawab,” dan ada peluang lebih dari sepuluh persen AI “membunuh semua manusia.”
Namun, apakah benar hanya soal memastikan keamanan model AI mereka yang memotivasi para pemimpin teknologi untuk tiba-tiba meminta industri menginjak rem? Jurnalis teknologi Steven Vaughan-Nichols dalam tulisannya untuk Computerworld berargumen bahwa ada banyak motif lain yang mungkin berperan.
Salah satunya, ada tekanan finansial yang sangat besar di pundak para eksekutif teknologi AI, yang belum bisa membuktikan bahwa hitungan finansial akan akhirnya masuk akal dan membenarkan pengeluaran astronomis mereka untuk pusat data. “Mari kita realistis,” tulis Vaughan-Nichols. “Perusahaan AI besar Amerika mungkin berharap perlambatan akan memastikan rival-rival mereka yang lebih kecil, setidaknya di AS, tidak bisa mengejar,” tambahnya, dengan argumen bahwa perlambatan bisa membantu OpenAI “menghemat kas untuk R&D.”
Penulis dan skeptis AI Corey Doctorow dalam postingan blog terbarunya mencatat bahwa industri — dan media — juga bisa melebih-lebihkan seberapa berbahaya peretasan terbaru yang melibatkan agen AI otonom. “Banyak yang dibicarakan tentang dialog chatbot OpenAI selama insiden Hugging Face,” tambah Doctorow. “Tidak heran: itu terbaca seperti skrip yang ditolak untuk reboot film ‘Hackers.’ Tapi itu bukan karena chatbot-nya bangun dan melamar bergabung dengan Cult of the Dead Cow: itu karena mereka dilatih pada korpus transkrip obrolan dari orang-orang muda yang bersemangat yang suka berfantasi membintangi reboot film ‘Hackers.’”
Meski demikian, ia mengakui bahwa peretasan tersebut bukanlah “sesuatu yang tidak berarti” — melainkan “sesuatu yang spesifik, dengan lintasan yang bisa dijelaskan, bahkan bisa diperkirakan.” Sederhananya, agen AI “melakukan apa yang dirancang untuk dilakukan, dan karena OpenAI menjalankannya dengan pengawasan yang tidak memadai, mereka menghancurkan server pesaing.”
Pembicaraan tentang perlambatan juga bisa mengalihkan perhatian dari masalah yang jauh lebih mencolok. “Serius, kita tidak akan melambat,” peringatkan Vaughan-Nichols. “Tapi bukankah semua kekhawatiran tentang keselamatan ini melakukan pekerjaan yang bagus untuk mengalihkan perhatian orang dari kebenaran sederhana bahwa AI tidak memberikan peningkatan produktivitas yang selama ini diklaim?”
Data sejauh ini, menurut Vaughan-Nichols, menunjukkan cerita yang memberatkan. Studi demi studi dan eksekutif demi eksekutif menemukan bahwa AI sama sekali tidak membantu produktivitas. Secara finansial, gambaran yang ada bahkan lebih genting. Waktu dari seruan perlambatan ini seharusnya membuat siapa pun setidaknya sedikit skeptis.
Analis semakin menemukan bahwa keuangan industri ini adalah “rumah kartu yang goyah,” dalam bahaya runtuh dan membawa seluruh ekonomi AS bersama-sama. Sementara itu, Anthropic pekan lalu membanggakan bahwa mereka akan menguntungkan — jika Anda mengabaikan pengeluaran besarnya, tentu saja.
Singkatnya, ada banyak alasan yang mendasar untuk mempertanyakan klaim para pemimpin teknologi, terutama mengingat regulasi pemerintah yang berarti tidak terlihat sama sekali, yang secara efektif memungkinkan mereka menetapkan aturan mereka sendiri yang sesuai dengan kepentingan mereka.
Bisa juga ini adalah kasus dua hal yang sama-sama benar pada saat yang sama: para eksekutif sama-sama memiliki kekhawatiran yang wajar — lagipula, secara tidak sengaja “menjatuhkan perusahaan besar” bisa memicu tuntutan hukum besar, seperti argumen Vaughan-Nichols — dan berusaha membeli lebih banyak waktu untuk membuat ekonomi mereka berjalan.
“Mereka tidak punya pilihan selain membuatnya lebih aman,” simpul Vaughan-Nichols. “Sekarang, bagaimana mereka akan melakukannya? Mengingat rekam jejak mereka yang buruk, itu pertanyaan bagus, dan baik mereka maupun kita belum punya jawabannya.”
Seruan perlambatan dari para pemimpin AI frontier ini datang di tengah sorotan terhadap insiden peretasan otonom yang melibatkan akun yang diretas dan penyalahgunaan teknologi yang terus meningkat. Kasus-kasus seperti ini memperkuat argumen bahwa pengawasan yang tidak memadai terhadap sistem AI dapat menimbulkan konsekuensi nyata, sebagaimana yang terjadi pada insiden Hugging Face.
Di sisi lain, industri AI juga menghadapi pertanyaan tentang keberlanjutan finansial. Dengan pengeluaran besar untuk pusat data dan klaim produktivitas yang belum terbukti, tekanan untuk menunjukkan hasil nyata semakin besar. Seruan perlambatan bisa jadi merupakan upaya untuk menciptakan ruang bernapas di tengah ketidakpastian ekonomi global.
Namun, terlepas dari motif yang mendasarinya, satu hal yang jelas: regulasi pemerintah yang berarti masih belum terlihat, sehingga para pemain industri ini tetap dapat menetapkan aturan mereka sendiri. Hal ini menimbulkan pertanyaan tentang siapa yang sebenarnya mengawasi pengembangan AI dan bagaimana akuntabilitas dapat ditegakkan.
Vaughan-Nichols menutup analisisnya dengan catatan bahwa para eksekutif AI tidak punya pilihan selain membuat teknologi mereka lebih aman. Namun, dengan rekam jejak yang ada, cara mereka melakukannya masih menjadi tanda tanya besar. Baik industri maupun publik belum memiliki jawaban yang jelas.
[ META_DESCRIPTION ]
Seruan perlambatan AI dari bos OpenAI, Anthropic, dan Grok memicu pertanyaan soal motif tersembunyi di baliknya. Ada tekanan finansial dan strategi bisnis.
Komentar
Belum ada komentar.