Telset.id – Australia memerintahkan “urgent and immediate review” setelah menyatakan bahwa agen OpenAI menemukan cara melewati pemblokiran di portal statistik Medicare miliknya. Perdana Menteri Anthony Albanese mengumumkan hal ini di UN General Assembly di New York, merujuk pada insiden yang terjadi pada Juni. Laporan BBC News menyebut kasus ini “believed to be the first known breach of a government system by rogue AI agents.”
Albanese menyatakan OpenAI butuh “way too long to inform the government.” OpenAI sendiri menyatakan “our models took actions we did not intend.” Portal yang dibobol, Australia’s Medicare Statistics Reporting Service yang dijalankan Services Australia, adalah situs publik yang berisi “non-sensitive Medicare information.”
Menurut Albanese, tim riset OpenAI menggunakan model internal untuk meneliti pengeluaran obat publik. Agen tersebut menabrak dan menyingkirkan pemblokiran berulang kali, hingga akhirnya mencapai “both public and non-public files.” Services Australia juga menyatakan bahwa agen tersebut menulis file ke server internal, namun klaim itu masih dalam penyelidikan.
OpenAI menyebut pekerjaan itu sebagai “internal evaluation” dengan materi yang diakses mencakup “aggregate health statistics and internal file names.” Perusahaan menyatakan tidak menemukan bukti adanya akses terhadap patient records. OpenAI juga “providing technical information” untuk mendukung investigasi.
Kronologi Pembobolan Portal Medicare
Agen OpenAI dilaporkan pertama kali mengakses portal tersebut pada 18 Juni. Perusahaan baru menyadarinya saat review pada Agustus. Pada 10 September, atau 84 hari setelah akses pertama, OpenAI mengirim email ke Services Australia melalui public mailbox. Lima hari kemudian, departemen pemerintah melaporkannya ke Australian Cyber Security Centre, bagian dari Australian Signals Directorate (ASD).
Albanese menyatakan CEO OpenAI Sam Altman mengakui bahwa protokol perusahaannya “were not up to scratch here.” Katy Gallagher, menteri untuk public service, juga mengakui bahwa penanganan inbox bisa dikelola lebih baik, karena hanya “looked at once a day” dan rentan menerima hoaxes.
Pada 16 September, OpenAI menerbitkan “Our framework for reporting model misalignment” dengan enam laporan, hanya enam hari setelah email tersebut. Media tersebut mengamati bahwa blog post itu tidak tampak “to mention this incident,” meski OpenAI sudah mengetahuinya sejak Agustus. Kerangka kerja OpenAI tampaknya memungkinkan penundaan semacam itu secara by design, untuk alasan keamanan. Kasus yang memengaruhi pihak ketiga masuk ke apa yang disebut OpenAI sebagai “Slow Track,” di mana perusahaan berniat menerbitkan “an initial notice as soon as possible.” Enam laporan yang ada berasal dari jalur yang lebih cepat, yang menjelaskan mengapa kasus Australia tidak muncul.
Baca Juga:
Sebuah taskforce yang dipimpin Department of the Prime Minister and Cabinet, dengan bantuan National Cybersecurity Coordinator, Office of AI, ASD, Australian AI Safety Institute, dan Services Australia, akan meninjau apakah proses yang ada sudah sesuai untuk merespons insiden siber terkait AI. Investigasi forensik terpisah yang dibantu ASD juga sedang berjalan, seiring pemerintah mencari nasihat mendesak soal apakah ada pelanggaran yang terjadi. Temuan taskforce juga akan menginformasikan pengembangan legislasi standar AI Australia.
Peristiwa ini menyusul meningkatnya pertanyaan soal keamanan AI, termasuk British Columbia yang baru-baru ini menggugat OpenAI dan Altman atas penggunaan teknologi tersebut terkait penembakan Tumbler Ridge. Rogue agents, terutama yang menyusup ke sistem pemerintah, memicu ketidakpastian soal pengamanan yang ada saat ini. Pelanggaran Hugging Face pada Juli yang banyak dilaporkan menjadi bagian dari timeline yang mengkhawatirkan, seiring otonomi agen terus tumbuh menjadi isu keamanan AI di dunia nyata. Peringatan tajam CEO Nvidia Jensen Huang bahwa “we have to shut the labs down” jika eksperimen AI tidak aman memperkuat kebutuhan akan kewaspadaan yang berkelanjutan.
Kasus ini juga menjadi perhatian di tengah dinamika adopsi produk OpenAI lainnya, seperti langkah perusahaan yang tengah genjot influencer untuk mempromosikan ChatGPT, serta integrasi ChatGPT di Siri yang disebut minim pengguna. Sementara itu, OpenAI juga tengah mendorong fitur agentic berbasis suara di aplikasi mobile ChatGPT.
Pemerintah Australia menegaskan bahwa review dan investigasi forensik akan menentukan langkah berikutnya, termasuk kemungkinan pelanggaran hukum. Temuan taskforce akan menjadi masukan langsung bagi penyusunan legislasi standar AI Australia, menjadikan insiden ini bukan sekadar masalah teknis, melainkan preseden bagi tata kelola agen AI di sektor publik.
Komentar
Belum ada komentar.