Telset.id – Anthropic melalui Frontier Red Team mendemonstrasikan dua komponen potensial AI worm yang mampu menyebar ke perangkat konsumen, termasuk Android TV box murah dan peralatan rumah tangga pintar, secara hipotetis tanpa bergantung pada infrastruktur datacenter. Eksperimen ini menunjukkan bahwa agen AI dapat mengonfigurasi inferensi di berbagai platform perangkat keras dan mengatur replikasi di seluruh jaringan, meski masih menyisakan keterbatasan serius.
Dalam laporan bertanggal 12 Oktober berjudul “AI models may be capable of self-replicating without access to a datacenter,” Anthropic mengkaji kelas malware potensial bernama weight-based replicator. Alih-alih mendistribusikan kode eksekutabel konvensional, malware ini akan menyebarkan bobot model AI bersama infrastruktur perangkat lunak yang diperlukan untuk menjalankan inferensi pada perangkat yang dikompromikan. Konsep ini bukan sekadar teori.
Peneliti mendemonstrasikan bahwa Qwen3.5-9B dapat membangun server inferensi pada delapan dari sembilan jenis perangkat keras yang diuji, mencakup perangkat NVIDIA Jetson Nano, Apple Silicon Mac, server Xeon, sebuah Google TPU, AMD MI300X, dan setidaknya satu PC dengan RTX 4090. Mereka juga menjalankan Gemma4-26B-A4B pada 15 Android TV box off-brand seharga sekitar $55 masing-masing, mencapai tingkat generasi gabungan 0,39 token per detik.
Anthropic juga menguji apakah sebuah model dapat mengatur replikasi di seluruh jaringan. Eksperimen menggunakan delapan node Google Cloud yang menjalankan emulator Android 15. Agen yang disemai menyebar antar node melalui port Android Debug Bridge (ADB) yang tidak terautentikasi, mentransfer file dan membangun server inferensi pada setiap target. GLM-5.2, model raksasa dengan 744 miliar parameter berukuran lebih dari 1TB, menyelesaikan urutan replikasi di seluruh delapan node dalam empat dari lima percobaan, dan mencapai tujuh node pada percobaan sisanya.
Tidak ada model open-weight lain yang diuji mampu menyelesaikan urutan tersebut sama sekali tanpa orkestrasi dari GLM-5.2, dan mereka juga tidak dapat secara signifikan meminta bantuan model yang lebih besar meski dilengkapi dengan kemampuan tersebut. GLM-5.2 sendiri tidak benar-benar mereplikasi dirinya ke smart TV box; sebaliknya, ia membangun server inferensi untuk model yang jauh lebih kecil, Llama 3.1 8B, pada setiap target. GLM-5.2 dijalankan pada server inferensi terpisah karena node yang diemulasi tidak dapat menangani model yang lebih besar.
Baca Juga:
Dengan kata lain, Anthropic mendemonstrasikan bahwa model yang sangat besar dan dihosting secara eksternal dapat mengatur urutan replikasi yang disederhanakan di seluruh mesin dengan antarmuka ADB yang sengaja diekspos. Penelitian ini juga menunjukkan bahwa model kecil dapat menyiapkan inferensi, tetapi belum membuktikan bahwa model kecil dapat secara mandiri mereplikasi dirinya di seluruh perangkat keras konsumen. Perbedaan ini, meski terkesan halus, tetap penting ketika seluruh premisnya adalah bahwa model kecil dapat segera menyebar tanpa bergantung pada infrastruktur datacenter.
Eksperimen tersebut mengungkap kendala utama penelitian ini: model yang mampu menyelesaikan urutan replikasi secara andal saat ini tidak cukup kecil untuk dijalankan pada perangkat target yang murah. Sementara model yang muat dalam anggaran memori perangkat tersebut, meski mampu menyiapkan inferensi, masih belum dapat menyelesaikan seluruh proses secara andal. Kesenjangan antara kecerdasan yang dibutuhkan untuk replikasi andal dan ukuran model maksimum yang dapat didukung perangkat keras target berarti model ancaman ini belum benar-benar berlaku saat ini. Namun Anthropic memperingatkan bahwa kesenjangan itu bisa menyempit, dan berpotensi segera.
Menggunakan peningkatan historis dalam kemampuan AI umum yang diukur melalui Epoch Capabilities Index, Anthropic memproyeksikan bahwa model dalam kelas 30 miliar parameter dapat mencapai tingkat kemampuan yang diperlukan pada akhir 2026. Namun sekali lagi, itu masih hipotetis dan belum menjawab masalah efisiensi yang substansial. Berdasarkan kinerja inferensi yang terukur dan kebutuhan token dari eksperimen penyiapannya, Anthropic memperkirakan bahwa membangun lingkungan inferensi akan memakan waktu sekitar 28–51 jam untuk Qwen3.5-9B dan 71–150 jam untuk Gemma4-26B-A4B pada throughput yang diamati dari Android TV box murah tersebut. Perlu dicatat, box yang digunakan adalah konfigurasi dengan RAM 4GB, sebuah kemewahan relatif di antara set-top box murah ini.
Replicator yang digerakkan model bisa memakan waktu berhari-hari untuk membangun lingkungan inferensi pada host baru, sedangkan malware konvensional dapat mengeksekusi payload-nya dalam hitungan detik ketika asumsinya tentang target terpenuhi. Worm konvensional dapat menyebar ke puluhan ribu target yang rentan dalam hitungan menit. Bobot model juga menimbulkan biaya bandwidth dan penyimpanan yang substansial.
Anthropic mengakui bahwa host yang dikompromikan dapat mengunduh bobot dari repositori eksternal alih-alih menerimanya langsung dari perangkat yang terinfeksi, dan tidak setiap mesin yang dikompromikan perlu menghosting sebuah model. Meski demikian, mendistribusikan payload multi-gigabyte dan memelihara komunikasi antar mesin yang menjalankan model terpecah akan menghasilkan lalu lintas jaringan yang besar, membuat aktivitas tersebut sangat mudah terdeteksi.
Anthropic memperkirakan bahwa armada hipotetis yang ukurannya sebanding dengan botnet Kimwolf yang terkenal, yang menginfeksi lebih dari dua juta perangkat pada puncaknya, dapat mendukung sekitar 133.000 instance Gemma4-26B-A4B jika setiap 15 perangkat secara kolektif menghosting satu model. Pada throughput yang terukur, yang sangat diuntungkan oleh latensi LAN, Anthropic menyebut armada semacam itu akan menyediakan kapasitas inferensi setara sekitar 40 Hopper H100. Ini adalah perbandingan yang sangat berantakan dan mengambil banyak kebebasan dengan data, tetapi bahkan pada tingkat itu harus dikatakan bahwa hasilnya tidak terlalu mengintimidasi. Dua juta perangkat terinfeksi yang harus tetap terinfeksi dan beroperasi selama berbulan-bulan atau bertahun-tahun—menginfeksi 2 juta perangkat akan memakan sekitar 6.300 agent-years bahkan dengan kecepatan stand-up tercepat 28 jam—untuk menghasilkan throughput inferensi AI yang lebih rendah daripada beberapa blade GPU generasi sebelumnya.
Anthropic mencatat bahwa replicator nyata dapat mengeksploitasi jenis perangkat keras lain, menerapkan model berbeda di seluruh perangkat heterogen, dan menghindari memuat bobot model ke setiap host yang dikompromikan. Kemungkinan-kemungkinan itu tentu memperumit perbandingan, tetapi bisa dibilang memperumitnya di luar batas diskusi ini.
Penelitian ini mengidentifikasi kekhawatiran keamanan yang berarti: agen AI dapat membuat malware lebih mudah beradaptasi dengan lingkungan yang tidak dikenal dan mengurangi jumlah rekayasa spesifik target yang diperlukan. Pendekatan hybrid, yang menggabungkan kode konvensional untuk operasi rutin dengan penalaran berbasis AI ketika kondisi tak terduga muncul, dapat menawarkan sebagian manfaat tersebut tanpa mengharuskan setiap perangkat yang dikompromikan menjalankan mesin inferensi secara terus-menerus. Ini tentu mengkhawatirkan, tetapi kita sudah melihat agen AI menggunakan kecerdasan frontier untuk menulis kodenya sendiri guna mengompromikan sistem yang aman, sehingga sudut spesifik pada penelitian ini bukanlah hal yang benar-benar baru.
Eksperimen Anthropic bermanfaat karena memberikan bukti bahwa konfigurasi perangkat lunak otonom dan replikasi jaringan yang disederhanakan semakin layak dilakukan. Namun mengubah kemampuan tersebut menjadi kelas malware yang secara material lebih berbahaya akan membutuhkan peningkatan dalam keandalan model, kompatibilitas perangkat keras, efisiensi penyebaran, dan kemampuan mengatasi kontrol keamanan dunia nyata, yang tidak diuji oleh perusahaan tersebut.
[IMAGE_1]
https://cdn.mos.cms.futurecdn.net/BXJHcBfPxPr6yt6bFXUb7f.jpg
Alt: “Self replicating AI”
Caption: Ilustrasi AI worm yang berpotensi menyebar ke perangkat konsumen.
Description: Gambar ini menggambarkan konsep AI worm yang mampu mereplikasi diri di berbagai perangkat konsumen tanpa infrastruktur datacenter, sesuai penelitian Anthropic Frontier Red Team.
[IMAGE_2]
https://cdn.mos.cms.futurecdn.net/kPxCHxxwzziH8ZDLc52RCX.jpg
Alt: “The Hugging Face website on a laptop”
Caption: Repositori model AI dapat menjadi sumber unduhan bobot model bagi host yang terinfeksi.
Description: Tangkapan layar situs Hugging Face pada sebuah laptop, mengilustrasikan bagaimana bobot model AI dapat diunduh dari repositori eksternal oleh perangkat yang dikompromikan.
[IMAGE_3]
https://cdn.mos.cms.futurecdn.net/aaUMGJEBG5xJ4EZgtX34Ff.png
Alt: “AI robots in a post-apocalyptic landscape”
Caption: Skenario AI worm yang menyebar tanpa datacenter masih menghadapi banyak keterbatasan teknis.
Description: Ilustrasi robot AI dalam lanskap pasca-apokaliptik, menggambarkan potensi ancaman AI worm yang menyebar secara mandiri di jaringan perangkat konsumen.
Komentar
Belum ada komentar.