Telset.id – Ancaman AI worm atau malware AI yang bisa mereplikasi diri berpotensi meluas dari perangkat pintar biasa ke robot humanoid, mobil otonom, hingga drone. Peringatan itu disampaikan Giuseppe Serio, VP Market Development di Upstream, menyusul riset Anthropic yang menunjukkan model AI kecil dapat memperbanyak diri sebagai “AI worms” di Android TV box dan smart oven.
Menurut Serio, konsep worm dan botnet sebenarnya bukan hal baru karena sudah ada selama puluhan tahun. Yang berubah adalah kemampuan perangkat lunak berbahaya memahami dan beradaptasi dengan lingkungan berbeda dengan campur tangan manusia yang jauh lebih sedikit. Kondisi ini berpotensi membuat serangan lebih mudah diskalakan, terutama di jutaan perangkat terhubung yang menjalankan perangkat keras dan perangkat lunak berbeda.
Serio menegaskan AI tidak otomatis menembus sistem keamanan. Penyerang tetap butuh jalan masuk ke perangkat, baik lewat kerentanan, antarmuka terbuka, maupun konfigurasi keamanan yang lemah. Riset Anthropic sendiri masih eksperimental, modelnya lambat, butuh sumber daya besar, dan diuji dalam kondisi yang disederhanakan. “Kami belum melihat AI worm di dunia nyata yang menyebar antar perangkat,” ujarnya.
Risiko Nyata di Lingkungan Physical AI
Meski demikian, arah perkembangannya dinilai penting. Ketika kemampuan ini meningkat, penyerang bisa mengotomatisasi lebih banyak pekerjaan yang sebelumnya membutuhkan keahlian manusia. Begitu malware menyebar ke banyak perangkat tanpa bergantung pada server pusat, mendeteksi dan menahan penyebarannya menjadi jauh lebih sulit.
Serio membedakan antara apa yang didemonstrasikan Anthropic dan apa yang bisa terjadi di lingkungan Physical AI. Robot, kendaraan terhubung, dan drone kini makin bergantung pada komputasi onboard untuk persepsi, navigasi, dan pengambilan keputusan. Sebagian memakai computer vision, machine learning, atau algoritma kontrol khusus, sementara sistem robotik terbaru mungkin memakai model vision-language-action.
Yang membuat perangkat ini menarik bagi penyerang adalah kombinasi sumber daya komputasi, konektivitas, dan perannya dalam operasi dunia nyata. Namun penyebaran antar perangkat tidak otomatis terjadi. Penyerang tetap butuh akses memadai untuk menjalankan perangkat lunak dan jalur ke perangkat lain. Contohnya, sekelompok robot gudang yang berbagi jaringan dan infrastruktur manajemen bisa membuka peluang perpindahan sistem.
Baca Juga:
Pada kendaraan terhubung, pemisahan fungsi kritis dan kontrol eksekusi perangkat lunak dapat membuat penyebaran jauh lebih sulit. Anthropic belum mendemonstrasikan serangan jenis ini terhadap armada Physical AI sungguhan. Namun riset tersebut menunjukkan bagaimana AI bisa mempermudah adaptasi serangan ke berbagai perangkat, sehingga berpotensi mengurangi upaya yang dibutuhkan untuk mengeksploitasi lingkungan yang lebih besar dan beragam.
Di sinilah risiko melampaui pembajakan komputasi tradisional. Pada Physical AI, sumber daya komputasi yang sama bisa menopang fungsi yang memengaruhi cara mesin beroperasi. Bergantung pada arsitekturnya, kompromi bisa memengaruhi ketersediaan, performa, dan berpotensi keselamatan fisik.
Dampak hingga Sinyal Deteksi Dini
Jika AI worm menginfeksi mobil otonom atau robot industri, konsekuensinya bisa beragam, mulai dari penurunan performa, downtime operasional, hingga potensi risiko keselamatan serius. Worm yang berjalan di robot atau kendaraan otonom dapat menghabiskan sumber daya komputasi yang juga dibutuhkan untuk persepsi, perencanaan, atau navigasi. Dampaknya, deteksi rintangan bisa melambat, keputusan tertunda, atau mesin berhenti beroperasi.
Serio tetap menekankan perbedaan antara mengganggu operasi mesin dan benar-benar mengambil kendali. Fungsi kemudi, pengereman, dan keselamatan kritis lain umumnya ditangani pengontrol terpisah dan dilindungi mekanisme keselamatan tambahan. Risiko menjadi lebih serius ketika sistem tidak terpisah dengan cukup baik, atau ketika penyerang juga bisa mengakses antarmuka yang menghubungkan persepsi dan perencanaan dengan kontrol fisik.
Untuk mendeteksi penyebaran, produsen perlu memperhatikan sejumlah tanda peringatan. Di antaranya transfer tak biasa model AI berukuran besar, komunikasi tak terduga antar perangkat, penggunaan GPU yang meningkat, anomali baterai atau termal, serta keterlambatan pada persepsi dan perencanaan. Tidak ada satu sinyal pun yang otomatis berarti ada masalah. Penggunaan GPU tinggi pada robot yang menjalankan tugas kompleks bisa normal, tetapi aktivitas serupa pada robot terparkir yang menjalankan perangkat lunak tak dikenal jauh lebih mencurigakan.
Karena itu, Serio menyarankan tiga sudut pandang: perilaku mesin individual dibandingkan kebiasaannya, konteks operasional apakah aktivitas masuk akal untuk tugas saat ini, dan perspektif seluruh armada untuk melihat aktivitas tak biasa serupa di banyak mesin. Perspektif armada dinilai paling penting karena anomali kecil di satu perangkat bisa menjadi indikasi jelas ketika sinyal dihubungkan dari ratusan atau ribuan mesin.
Soal kecepatan deteksi, tidak ada jawaban tunggal. Semuanya bergantung pada seberapa cepat worm menyebar dan bagaimana armada terhubung. Idealnya deteksi terjadi hampir real time sebelum infeksi mencapai perangkat lain. Namun mendeteksi baru sebagian tantangan, karena produsen juga harus mengidentifikasi mesin terdampak dan merespons cepat tanpa mengganggu operasi atau menciptakan risiko keselamatan baru.
Ketika AI worm ditemukan di dalam armada, prioritas pertama adalah menghentikan penyebarannya tanpa menimbulkan risiko tambahan. Berbeda dengan sistem IT tradisional, robot, kendaraan, atau mesin industri tidak bisa dimatikan begitu saja saat menjalankan tugas kritis. Serio merinci empat langkah: memahami situasi dengan mengidentifikasi mesin terdampak dan sejauh mana penyebaran, menahan penyebaran dengan membatasi komunikasi antar mesin, membawa mesin ke kondisi aman, serta memverifikasi sebelum menyalakan kembali.
Isolasi jarak jauh dimungkinkan di banyak lingkungan, tetapi harus dirancang sejak awal. Produsen perlu tahu fungsi mana yang bergantung pada konektivitas, mana yang bisa beroperasi mandiri, dan bagaimana mesin merespons saat komunikasi dibatasi. Tujuannya bukan sekadar menghentikan serangan siber, melainkan menghentikannya tanpa mengubah insiden keamanan menjadi insiden keselamatan.
Serio menilai industri bergerak ke arah yang benar, tetapi masih ada celah antara kecepatan perkembangan otonomi dan cara mengamankan sistem tersebut. Produsen otomotif disebut telah membuat kemajuan signifikan lewat secure-by-design, didorong regulasi seperti UNECE R155. Sementara di bidang robotika, drone, dan aplikasi Physical AI lain, gambarannya jauh lebih beragam.
Tantangan lebih besar muncul setelah mesin dikerahkan. Mengamankan produk saat keluar dari pabrik berbeda dengan terus memahami apa yang dilakukan ribuan mesin di lapangan, mendeteksi ancaman, dan merespons tanpa memengaruhi operasi. Regulasi seperti EU Cyber Resilience Act turut mempercepat pergeseran ini karena produsen kini menghadapi kewajiban pelaporan atas kerentanan yang dieksploitasi aktif dan insiden keamanan berat yang memengaruhi produk mereka.
Serio memperkirakan CRA akan memengaruhi praktik keamanan siber di luar Eropa, serupa dengan dampak UNECE R155 di sektor otomotif. Ia menegaskan industri perlu beralih dari sekadar mengamankan mesin menjadi terus memverifikasi bahwa mesin berperilaku sesuai tujuan, baik secara individual maupun di seluruh armada. Riset Anthropic disebutnya sebagai pengingat untuk menutup celah itu sekarang, bukan menunggu ancaman menjadi kenyataan.
Bagi pengguna biasa, perkembangan ini menjadi sinyal bahwa keamanan perangkat pintar dan kendaraan terhubung tak lagi hanya soal perlindungan data, tetapi juga soal bagaimana mesin mengambil keputusan dan bertindak di dunia nyata. Sejumlah langkah pengamanan kendaraan otonom juga menjadi sorotan dalam insiden Cybercab Tabrak yang menunjukkan pentingnya kontrol keselamatan yang terpisah.
[ META_DESCRIPTION ]
AI worm berpotensi menyebar dari perangkat pintar ke robot, mobil otonom, dan drone. Upstream ungkap risiko dan cara produsen mendeteksinya.
Komentar
Belum ada komentar.