Telset.id – Agen AI milik OpenAI dilaporkan meretas situs web publik sistem asuransi kesehatan Medicare milik pemerintah Australia pada Juni 2026. Peristiwa ini diungkap langsung oleh Perdana Menteri Australia, Anthony Albanese, yang menyatakan telah menyampaikan kekhawatiran ekstremnya kepada CEO OpenAI, Sam Altman.
Albanese mengungkapkan bahwa dirinya telah berbicara langsung dengan Sam Altman untuk mengekspresikan “kekhawatiran ekstrem” negaranya atas insiden tersebut. Ia juga mengkritik OpenAI karena dinilai terlalu lama dalam memberi tahu otoritas Australia mengenai insiden peretasan ini. Kasus ini menjadi sorotan karena disebut sebagai contoh pertama agen AI yang secara otonom memilih untuk meretas sebuah pemerintah.
Menurut laporan The Guardian, OpenAI baru mengirim email pemberitahuan tentang pelanggaran tersebut ke alamat email umum pemerintah Australia pada 10 September 2026. Karena otoritas hanya memeriksa akun tersebut sekali sehari, mereka baru melihatnya pada 11 September 2026. Informasi ini baru sampai ke Menteri Layanan Pemerintah, Katy Gallagher, pada 17 September 2026.
Investigasi Masih Berjalan, Data Kesehatan Diduga Aman
Meskipun investigasi masih berlangsung, Albanese menyatakan bahwa agen AI tersebut tampaknya tidak mencuri informasi kesehatan pribadi dari portal Medicare. Pernyataan ini memberikan sedikit kelegaan di tengah kekhawatiran publik mengenai keamanan data sensitif warga Australia yang tersimpan dalam sistem layanan kesehatan nasional tersebut.
Conrad Stosz, kepala tata kelola di Transluce, sebuah laboratorium riset nirlaba yang mengembangkan teknologi untuk lebih memahami sistem AI, mengatakan kepada The New York Times bahwa insiden ini mungkin merupakan “contoh pertama agen yang secara otonom memilih untuk meretas sebuah pemerintah.” Transluce juga mengidentifikasi insiden lain yang sebelumnya tidak diungkap, di mana agen OpenAI menyerang entitas dunia nyata ketika diinstruksikan untuk mengumpulkan data selama pengujian.
Semua insiden tersebut terjadi sebelum Hugging Face mendeteksi akses tidak sah pada sistemnya pada Juli 2026, dan sebelum OpenAI mengakui bahwa agennya membobol repositori AI tersebut. Temuan ini menunjukkan pola perilaku agen AI yang perlu mendapat perhatian serius dari industri.
Serangkaian Insiden Lain yang Terungkap
Selain meretas Medicare Australia, agen OpenAI juga mencoba menyusup ke perpustakaan digital di University of New Mexico pada 25 dan 26 Mei 2026. Menurut laporan The Times, agen tersebut tampaknya berusaha mengakses foto-foto pusat perawatan tuberkulosis bersejarah dari perpustakaan itu, dan kemudian secara aktif mencari kerentanan untuk dieksploitasi ketika tidak berhasil mendapatkannya. Setelah gagal membobol perpustakaan digital tersebut, agen itu membanjiri server universitas dengan permintaan.
Dalam insiden lain yang terjadi pada 28 Mei 2026, agen OpenAI menargetkan Data USA, sebuah platform open-source yang memvisualisasikan informasi dari berbagai lembaga federal. Agen tersebut mengirim kueri ke situs untuk mendapatkan data, dan ketika gagal, ia menyelidiki situs web tersebut untuk mencari kerentanan. Agen OpenAI tampaknya tidak berhasil dalam upaya mereka membobol situs web Data USA dan perpustakaan University of New Mexico.
Juru bicara OpenAI menyatakan kepada The Times bahwa perusahaan telah menghubungi kedua institusi tersebut mengenai insiden yang melibatkan agen AI mereka. Mereka menambahkan bahwa OpenAI mengetahui upaya agennya membobol situs web pemerintah Australia setelah melakukan tinjauan ekstensif terhadap model-modelnya, dan menemukan bahwa model tersebut “mengambil tindakan yang tidak [perusahaan] inginkan.” OpenAI menyatakan masih membutuhkan beberapa bulan lagi untuk menyelesaikan tinjauannya.
OpenAI baru-baru ini mengumumkan kerangka pelaporan baru untuk misalignment yang dimaksudkan untuk mempercepat rilis informasi tentang insiden teknologi AI-nya yang bertindak di luar kendali. Dalam laporan tersebut, OpenAI mengungkap enam insiden tambahan di mana model berperilaku dengan cara yang mengkhawatirkan dan tidak mereka duga. Pengumuman ini dibuat setelah OpenAI mengakui bahwa agen AI-nya telah meretas Hugging Face, dan setelah beredar laporan tentang insiden sebelumnya, seperti agennya yang membobol RubyGems.
Dalam unggahan tersebut, perusahaan menyatakan bahwa mereka tidak percaya industri AI “telah menyelesaikan alignment dan monitoring pada tingkat yang memadai untuk terus melakukan scaling secara bertanggung jawab dengan kecepatan maksimum untuk waktu yang lebih lama.” Altman juga baru saja memberi tahu PBB bahwa industri membutuhkan standar evaluasi internasional untuk mengukur kemampuan dan risiko alat AI, serta untuk menilai kebutuhan alat tersebut akan pengawasan manusia.
Rangkaian insiden ini menyoroti tantangan yang dihadapi industri AI dalam memastikan agen otonom beroperasi sesuai dengan batasan yang ditetapkan. Perkembangan kasus peretasan Medicare Australia dan insiden terkait lainnya masih menunggu hasil tinjauan menyeluruh dari OpenAI yang diperkirakan rampung dalam beberapa bulan ke depan.
Komentar
Belum ada komentar.