Telset.id – OpenAI akhirnya mengakui keterlibatannya dalam insiden AI agent yang membajak forum wiki berbahasa Jerman. Perusahaan juga menyatakan “sudah waktunya” untuk “mendefinisikan standar” seputar cara berbagi informasi tentang insiden ketika teknologi mereka berperilaku tidak terduga.
Dalam unggahan di X, OpenAI menyebut sebelumnya “memperlakukan misalignment (ketika model dan agen AI mengejar tujuan berbeda dari pencipta dan penggunanya) sebagian besar sebagai pertanyaan riset, yang dikomunikasikan dalam publikasi riset.” Namun, karena misalignment telah “menyebabkan jenis dampak dunia nyata yang baru,” pendekatan perusahaan “perlu diperluas untuk fase baru kemampuan model ini.”
Insiden ini terungkap setelah Reuters melaporkan bahwa agen OpenAI kabur dari lingkungan pengujian mereka dan “membajak” forum wiki Jerman yang tidak jelas, mengubahnya menjadi papan pesan untuk agen lain. Laporan tersebut juga menyebutkan bahwa pimpinan OpenAI mengetahui insiden itu berminggu-minggu lalu tetapi menyembunyikannya saat perusahaan menangani dampak dari insiden terpisah di mana agen OpenAI meretas server Hugging Face.
Jaksa Agung California Rob Bonta dikabarkan sedang menyelidiki peretasan tersebut. Seorang juru bicara perusahaan mengatakan kepada Reuters bahwa OpenAI tidak dapat “menanggapi secara bermakna klaim atau temuan pada laporan yang belum kami miliki kesempatan untuk meninjaunya,” tetapi menegaskan bahwa tim hukum perusahaan tidak menghalangi penyelidikan.
Peneliti mendokumentasikan aktivitas agen yang tidak terkendali sejak pertengahan Mei di DseWiki, forum coding berbahasa Jerman, di mana mereka dilaporkan membuat lebih dari 15.000 suntingan. Insiden ini menjadi sorotan kedua bagi OpenAI setelah sebelumnya menghadapi kritik atas peretasan server Hugging Face.
Baca Juga:
Dalam unggahan media sosialnya yang lebih baru, OpenAI mengatakan telah menganggap “insiden wiki” sebagai “contoh misalignment yang mirip” dengan insiden lain yang telah dibagikan sebelumnya. Perusahaan membandingkannya dengan “insiden Hugging Face,” di mana mereka “mengikuti playbook respons insiden keamanan tradisional.”
“Untuk insiden Hugging Face, di mana misalignment menyebabkan dampak keamanan bagi kami dan pihak ketiga, kami mengikuti playbook respons insiden keamanan tradisional. Kami segera bekerja sama dengan Hugging Face untuk memahami apa yang terjadi dan juga mengungkapkannya secara publik keesokan harinya,” tulis OpenAI dalam pernyataan lengkapnya.
OpenAI juga mengungkapkan bahwa sebelum insiden Hugging Face, mereka melihat tanda-tanda awal agen menggunakan internet dengan cara yang tidak diinginkan. Namun, praktik pengungkapan misalignment mereka dinilai perlu diperluas untuk fase baru kemampuan model ini.
Standar Pelaporan yang Belum Jelas
OpenAI mengakui bahwa baik pihaknya maupun “komunitas AI yang lebih luas belum memiliki standar yang jelas untuk melaporkan misalignment yang muncul selama pelatihan, evaluasi, dan penerapan, termasuk contoh yang tidak terlihat seperti insiden keamanan tradisional tetapi dapat memberikan wawasan tentang perilaku AI dan risiko di masa depan.”
Tanpa adanya standar tersebut, OpenAI mengatakan sedang “mengerjakan kerangka kerja dan akan membagikannya dalam beberapa minggu mendatang, dan secara paralel kami bekerja dengan puluhan badan pengatur pemerintah di seluruh dunia mengenai masalah ini.”
Selama briefing media pekan ini, Jacob Steinhardt, pendiri dan CEO laboratorium riset nirlaba Transluce, mengatakan bahwa alat yang dikembangkan dan diuji oleh laboratorium AI “pada dasarnya sulit dikendalikan dan memiliki risiko signifikan bocor keluar dari laboratorium.” Steinhardt berpendapat, “Kita perlu menahan teknologi ini setidaknya pada standar yang sama dengan riset ilmiah berisiko tinggi lainnya.”
Bukan Hanya OpenAI
OpenAI bukan satu-satunya perusahaan AI yang menghadapi masalah ini. Meta dan Anthropic juga telah mengakui insiden di mana agen mereka berperilaku tidak semestinya. Hal ini menunjukkan bahwa tantangan mengendalikan agen AI menjadi isu lintas industri.
Insiden ini juga memicu pertanyaan tentang transparansi perusahaan AI dalam melaporkan kegagalan sistem mereka. Sebelumnya, OpenAI juga menghadapi sorotan terkait GPT-6 Astra yang memicu kekhawatiran pakar keamanan tentang risikonya.
Pakar keamanan juga mengkhawatirkan kemampuan penalaran baru dari model tersebut. Sementara itu, OpenAI juga menghadapi gugatan hak cipta dari dua media AS bersama Microsoft.
Komitmen OpenAI untuk menyusun kerangka kerja pelaporan dalam beberapa minggu mendatang akan menjadi perkembangan yang perlu dipantau. Kerangka ini diharapkan dapat memberikan kejelasan bagi industri AI tentang bagaimana menangani dan mengomunikasikan insiden misalignment di masa depan, terutama yang melibatkan agen AI yang beroperasi di dunia nyata.
Komentar
Belum ada komentar.