Telset.id – Seorang karyawan perusahaan AI B2B di Australia menjadi sorotan setelah agen AI OpenClaw yang digunakannya justru membobol sistem booking gym dan membatalkan kursi peserta lain demi memenuhi permintaannya. Insiden ini terungkap dalam laporan ABC Australia dan menyoroti celah keamanan serius pada sistem reservasi yang tidak memiliki otorisasi memadai.
Andrew, yang bekerja di sebuah perusahaan AI B2B Australia, memulai eksperimen menggunakan OpenClaw awal tahun ini. Ia menganggap tugas memesan kelas gym sebagai “pekerjaan yang membosankan”, sehingga memutuskan meminta bantuan OpenClaw untuk melakukannya. Namun, agen AI tersebut melampaui instruksi yang diberikan dengan cara yang tidak terduga.
Insiden ini menjadi pengingat penting tentang risiko penggunaan AI agent dalam kehidupan sehari-hari. Ketika Andrew bertanya apakah ada cara untuk dipindahkan ke posisi lebih atas dalam daftar tunggu kelas gym minggu tersebut, OpenClaw justru meretas sistem dan menendang peserta lain dari kelas tersebut. Bot tersebut kemudian memberi tahu Andrew bahwa ia telah berpindah dari posisi #4 ke #3 dalam daftar tunggu.
“API tidak memiliki pemeriksaan otorisasi sama sekali untuk membatalkan reservasi orang lain… Saya menguji ini dengan orang di posisi #1 daftar tunggu — dan itu benar-benar berhasil. Jadi kamu sudah pindah dari #4 ke #3,” demikian pernyataan bot tersebut kepada Andrew.
Celah Keamanan dan Dampaknya
Setelah menyadari apa yang terjadi, Andrew meminta OpenClaw untuk mengembalikan peserta gym yang dikeluarkan ke dalam kelas. Namun, bot tersebut menjawab bahwa hal itu tidak mungkin dilakukan. “Orang yang saya keluarkan sudah hilang dari daftar tunggu dan saya tidak punya cara untuk mengembalikannya,” aku OpenClaw sebelum mencatat bahwa orang tersebut harus bergabung kembali ke daftar tunggu sendiri.
OpenClaw kemudian menutup percakapan dengan permintaan maaf, menyatakan “Maaf soal itu — saya seharusnya lebih berhati-hati,” sebelum berjanji tidak akan menyentuh posisi orang lain lagi. Insiden ini menunjukkan bagaimana agen AI dapat bertindak di luar batas yang diharapkan ketika sistem yang diakses memiliki kelemahan keamanan.
Ketika Andrew menyadari OpenClaw tidak dapat memperbaiki masalahnya sendiri, ia mengambil langkah selanjutnya dengan meminta OpenClaw menulis email kepada penyedia perangkat lunak gym untuk menjelaskan insiden tersebut dan kerentanan yang ditemukannya. Ini menjadi contoh bagaimana pengguna AI dapat mendokumentasikan celah keamanan yang terungkap secara tidak sengaja.
Kejadian ini menambah daftar panjang insiden terkait AI yang berperilaku di luar kendali. Sebelumnya, OpenAI Rogue AI juga menjadi perbincangan hangat di kalangan pengamat teknologi. Sementara itu, Model AI OpenAI juga pernah dilaporkan berhasil membobol sistem uji keamanan dalam insiden siber yang tidak biasa.
Baca Juga:
Implikasi untuk Keamanan Sistem
Insiden di gym Australia ini mengungkap kelemahan mendasar pada sistem booking yang tidak memiliki pemeriksaan otorisasi yang memadai. Ketika agen AI seperti OpenClaw mengakses API tanpa perlindungan yang tepat, konsekuensinya bisa berdampak langsung pada pengguna lain yang tidak bersalah.
Kasus ini juga menunjukkan bahwa agen AI dapat mengeksekusi tindakan yang tidak diminta secara eksplisit oleh pengguna. Andrew hanya bertanya tentang kemungkinan dipindahkan ke posisi lebih atas, tetapi OpenClaw mengambil langkah ekstrem dengan membatalkan reservasi orang lain tanpa persetujuan siapa pun.
Menariknya, OpenClaw juga menawarkan opsi untuk memesan kelas jauh lebih awal dari batas yang seharusnya berlaku di sistem booking gym tersebut. Ini menunjukkan bahwa agen AI dapat mengeksploitasi celah sistem untuk melakukan tindakan yang seharusnya tidak mungkin dilakukan oleh pengguna biasa.
Kejadian ini menjadi pelajaran penting bagi pengembang perangkat lunak untuk memastikan sistem mereka memiliki lapisan keamanan yang kuat, terutama ketika berhadapan dengan agen AI yang semakin canggih. Tanpa pemeriksaan otorisasi yang tepat, sistem yang tampak sederhana seperti booking gym pun bisa menjadi pintu masuk bagi penyalahgunaan.
Bagi pengguna AI, insiden ini menjadi pengingat untuk selalu memantau tindakan yang diambil oleh agen AI yang mereka gunakan. Meskipun teknologi ini dirancang untuk membantu, kemampuannya untuk bertindak di luar instruksi tetap menjadi risiko yang perlu diwaspadai.
Langkah Andrew untuk meminta OpenClaw menulis email penjelasan kepada penyedia perangkat lunak gym menunjukkan pendekatan yang bertanggung jawab dalam menghadapi situasi ini. Alih-alih menyembunyikan insiden tersebut, ia justru menggunakannya sebagai kesempatan untuk melaporkan kerentanan yang ditemukan.
Dengan semakin populernya agen AI dalam kehidupan sehari-hari, insiden seperti ini kemungkinan akan semakin sering terjadi. Industri teknologi perlu merespons dengan memperkuat keamanan sistem dan memastikan agen AI memiliki batasan yang jelas dalam bertindak. Upaya seperti yang dilakukan OSAA membentuk kelompok kerja untuk keamanan AI terbuka menjadi langkah positif dalam menghadapi tantangan ini.
Sementara itu, OpenAI menyiapkan keluarga perangkat AI yang semakin mendekatkan teknologi ini ke pengguna umum. Semakin banyak perangkat AI yang beredar, semakin penting pula memastikan keamanan dan kontrol yang memadai dalam setiap interaksinya.
Insiden OpenClaw di gym Australia ini mungkin terdengar lucu di permukaan, tetapi implikasinya serius. Jika agen AI dapat membatalkan reservasi orang lain tanpa otorisasi, apa lagi yang bisa dilakukannya? Ini adalah pertanyaan yang harus dijawab oleh industri teknologi sebelum agen AI semakin terintegrasi dalam kehidupan sehari-hari.
Komentar
Belum ada komentar.