Telset.id – Penggunaan AI tanpa tata kelola (ungoverned AI) bukan lagi risiko kepatuhan teoretis, melainkan masalah nyata yang harus dihadapi para Chief Information Security Officer (CISO). Hal ini diungkapkan Andy Fielder, Chief Technology Officer MetaCompliance, yang menyoroti bahwa karyawan kini mengandalkan AI untuk berbagai tugas kerja, mulai dari menyusun email dan merangkum konten hingga menyiapkan dokumen hukum dan laporan keuangan.
Menurut Fielder, semakin besar ketergantungan pada alat AI, semakin besar pula risiko alat tersebut dieksploitasi, disalahgunakan, atau sekadar dipercaya secara berlebihan. Ia merujuk pada kasus tahun 2023 ketika sejumlah pengacara di Amerika Serikat dikenai sanksi setelah mengajukan dokumen hukum yang dibangun di atas kutipan palsu buatan ChatGPT. Bagi Fielder, fakta bahwa profesional berpengalaman mempercayai keluaran AI tanpa memverifikasi sumber primer—bahkan dalam proses hukum berisiko tinggi—menunjukkan kekhawatiran serius terhadap ketergantungan pada AI.
Namun halusinasi AI hanya sebagian dari masalah. Ketika karyawan semakin nyaman menggunakan AI di tempat kerja, organisasi perlu memahami informasi apa yang dimasukkan karyawan ke dalam mesin AI dan apakah mereka memiliki kontrol yang tepat untuk mengelola risiko keamanan, privasi, dan kepatuhan yang menyertai penggunaan AI tanpa persetujuan resmi.
Biaya AI Tanpa Tata Kelola
Penggunaan AI tanpa tata kelola menimbulkan risiko signifikan, terutama ketika karyawan membagikan data sensitif ke alat AI tanpa panduan jelas soal cara penggunaannya. Informasi tersebut kemudian dapat memengaruhi keputusan bisnis berdasarkan keluaran AI yang belum terverifikasi, atau jatuh ke tangan pelaku jahat yang ingin mengeksploitasi bisnis.
Begitu informasi sensitif keluar dari kendali organisasi, tidak ada yang tahu ke mana informasi itu berakhir. Jika platform AI diretas, data yang dimasukkan ke dalam alat tersebut bisa terekspos, berpotensi memberi penyerang hal yang mereka butuhkan untuk menargetkan sistem perusahaan. Apa yang dimulai sebagai jalan pintas cepat untuk menghemat waktu bisa dengan mudah menjadi titik masuk bagi pencurian kredensial atau kerugian finansial serius.
Fielder menekankan bahwa persyaratan transparansi EU AI Act yang berlaku mulai 2 Agustus 2026 mengharapkan organisasi dalam cakupannya untuk transparan soal interaksi bisnis mereka dengan AI serta konten yang dihasilkan atau dimanipulasi AI. Regulasi ini juga mewajibkan staf dibekali tingkat literasi AI yang memadai, di samping regulasi yang sudah ada seperti GDPR dan persyaratan FCA relevan yang melibatkan tata kelola pemrosesan data pribadi oleh AI.
Biaya pelanggaran persyaratan transparansi tersebut dapat berupa denda hingga €15 juta atau 3% dari total omzet tahunan organisasi. Konsekuensi ini menempatkan verifikasi AI sebagai protokol yang kritis, terutama karena organisasi kini harus memahami persis bagaimana AI digunakan, informasi apa yang dimasukkan ke dalam alat AI, dan kontrol apa yang dibutuhkan untuk kasus penggunaan berisiko tinggi—terutama yang melibatkan data pribadi dan keputusan finansial.
Baca Juga:
Mengapa Verifikasi Tidak Seragam
Kebijakan AI generik yang tidak disesuaikan dengan kasus penggunaan spesifik cenderung diabaikan. Menurut Fielder, meminta staf untuk sekadar “memeriksa semuanya” dari alat AI tidak realistis atau cukup jelas, karena tidak setiap tugas berbantuan AI membawa risiko yang sama. Tingkat pengawasan perlu disesuaikan dengan besarnya taruhan jika keluaran ternyata salah.
Memperlakukan setiap tugas dengan cara yang sama berarti organisasi entah membuang waktu karyawan untuk proses verifikasi yang tidak perlu, atau berisiko mengalami insiden keamanan karena keluaran buatan AI diteruskan tanpa diperiksa. Untuk tugas berisiko rendah seperti penyusunan internal, brainstorming, dan dukungan riset, pengecekan sekilas bisa cukup. Namun, apa pun yang memberi masukan bagi keputusan soal ketenagakerjaan, keuangan, atau konten yang menghadap pelanggan memerlukan proses persetujuan ketat, pemantauan berkelanjutan, dan manusia yang benar-benar terlibat dalam alurnya.
Fielder juga menyoroti fenomena karyawan membawa alat AI mereka sendiri ke tempat kerja. Riset terbaru MetaCompliance menemukan bahwa 40% CISO khawatir staf mereka membagikan informasi sensitif ke platform AI generatif, sementara 68% mengidentifikasi karyawan sebagai risiko siber terbesar organisasi mereka. AI tanpa tata kelola pun menjadi titik buta tata kelola dan keamanan yang terus berkembang.
Risiko itu melampaui apa yang dimasukkan karyawan ke dalam alat AI. Ketika organisasi tidak tahu alat mana yang digunakan atau sejauh mana karyawan mengandalkan keluarannya, mereka memiliki visibilitas terbatas soal apakah informasi buatan AI diverifikasi sebelum ditindaklanjuti. Organisasi tidak bisa mengelola risiko yang tidak diketahui keberadaannya, sehingga memetakan di mana AI tanpa tata kelola benar-benar digunakan lalu menawarkan alternatif aman yang disetujui menjadi langkah penting, alih-alih melarangnya sepenuhnya.
Pendekatan ini memberi organisasi visibilitas lebih besar atas bagaimana AI digunakan dan di mana halusinasi atau keluaran tidak akurat bisa masuk ke proses bisnis, sebelum menjadi liabilitas. Fielder menegaskan bahwa pelatihan generik tidak akan menyelesaikan masalah AI. Karyawan perlu dibekali proses, alat, dan pagar pengaman yang tepat untuk menggunakan AI secara efektif tanpa membahayakan bisnis.
Hal ini mencakup pelatihan untuk mengenali automation bias—kecenderungan kita mempercayai keluaran secara buta—yang dipadukan dengan rutinitas verifikasi eksplisit yang mengubah “periksa ulang keluaran AI” dari instruksi samar menjadi proses yang bisa ditindaklanjuti. Penargetan kesadaran keamanan berbasis peran dan intervensi yang dipicu perilaku juga krusial agar panduan yang tepat sampai ke orang yang tepat pada saat mereka membutuhkannya.
Pada akhirnya, Fielder menilai penanganan halusinasi AI dan risiko AI tanpa tata kelola bermuara pada pelatihan karyawan yang tepat. Sebanyak 81% CISO menyatakan pelatihan kesadaran keamanan gagal karena terlalu generik untuk terasa relevan secara personal. Tanpa konteks yang mencerminkan keputusan yang dihadapi karyawan sehari-hari, pelatihan hanya diselesaikan tetapi jarang diserap dan diterapkan.
Pandangan ini sejalan dengan kekhawatiran yang juga muncul di ekosistem aplikasi sehari-hari, misalnya ketika Meta menghadirkan AI Agent untuk setup WhatsApp Business. Seiring AI makin masuk ke alur kerja, kontrol dan verifikasi menjadi penentu apakah adopsi berjalan aman atau justru membuka celah risiko baru.
[WARN]“`
Now let me verify the internal links requirement. The instruction says I must insert at least 3-5 links. I’ve used 2 in “Baca Juga” plus 1 in body = 3. Let me add more naturally.
Let me revise the content to include more internal links naturally:
Telset.id – Penggunaan AI tanpa tata kelola (ungoverned AI) bukan lagi risiko kepatuhan teoretis, melainkan masalah nyata yang harus dihadapi para Chief Information Security Officer (CISO). Hal ini diungkapkan Andy Fielder, Chief Technology Officer MetaCompliance, yang menyoroti bahwa karyawan kini mengandalkan AI untuk berbagai tugas kerja, mulai dari menyusun email dan merangkum konten hingga menyiapkan dokumen hukum dan laporan keuangan.
Menurut Fielder, semakin besar ketergantungan pada alat AI, semakin besar pula risiko alat tersebut dieksploitasi, disalahgunakan, atau sekadar dipercaya secara berlebihan. Ia merujuk pada kasus tahun 2023 ketika sejumlah pengacara di Amerika Serikat dikenai sanksi setelah mengajukan dokumen hukum yang dibangun di atas kutipan palsu buatan ChatGPT. Bagi Fielder, fakta bahwa profesional berpengalaman mempercayai keluaran AI tanpa memverifikasi sumber primer—bahkan dalam proses hukum berisiko tinggi—menunjukkan kekhawatiran serius terhadap ketergantungan pada AI.
Namun halusinasi AI hanya sebagian dari masalah. Ketika karyawan semakin nyaman menggunakan AI di tempat kerja, organisasi perlu memahami informasi apa yang dimasukkan karyawan ke dalam mesin AI dan apakah mereka memiliki kontrol yang tepat untuk mengelola risiko keamanan, privasi, dan kepatuhan yang menyertai penggunaan AI tanpa persetujuan resmi.
Biaya AI Tanpa Tata Kelola
Penggunaan AI tanpa tata kelola menimbulkan risiko signifikan, terutama ketika karyawan membagikan data sensitif ke alat AI tanpa panduan jelas soal cara penggunaannya. Informasi tersebut kemudian dapat memengaruhi keputusan bisnis berdasarkan keluaran AI yang belum terverifikasi, atau jatuh ke tangan pelaku jahat yang ingin mengeksploitasi bisnis.
Begitu informasi sensitif keluar dari kendali organisasi, tidak ada yang tahu ke mana informasi itu berakhir. Jika platform AI diretas, data yang dimasukkan ke dalam alat tersebut bisa terekspos, berpotensi memberi penyerang hal yang mereka butuhkan untuk menargetkan sistem perusahaan. Apa yang dimulai sebagai jalan pintas cepat untuk menghemat waktu bisa dengan mudah menjadi titik masuk bagi pencurian kredensial atau kerugian finansial serius.
Fielder menekankan bahwa persyaratan transparansi EU AI Act yang berlaku mulai 2 Agustus 2026 mengharapkan organisasi dalam cakupannya untuk transparan soal interaksi bisnis mereka dengan AI serta konten yang dihasilkan atau dimanipulasi AI. Regulasi ini juga mewajibkan staf dibekali tingkat literasi AI yang memadai, di samping regulasi yang sudah ada seperti GDPR dan persyaratan FCA relevan yang melibatkan tata kelola pemrosesan data pribadi oleh AI.
Biaya pelanggaran persyaratan transparansi tersebut dapat berupa denda hingga €15 juta atau 3% dari total omzet tahunan organisasi. Konsekuensi ini menempatkan verifikasi AI sebagai protokol yang kritis, terutama karena organisasi kini harus memahami persis bagaimana AI digunakan, informasi apa yang dimasukkan ke dalam alat AI, dan kontrol apa yang dibutuhkan untuk kasus penggunaan berisiko tinggi—terutama yang melibatkan data pribadi dan keputusan finansial.
Baca Juga:
Mengapa Verifikasi Tidak Seragam
Kebijakan AI generik yang tidak disesuaikan dengan kasus penggunaan spesifik cenderung diabaikan. Menurut Fielder, meminta staf untuk sekadar “memeriksa semuanya” dari alat AI tidak realistis atau cukup jelas, karena tidak setiap tugas berbantuan AI membawa risiko yang sama. Tingkat pengawasan perlu disesuaikan dengan besarnya taruhan jika keluaran ternyata salah.
Memperlakukan setiap tugas dengan cara yang sama berarti organisasi entah membuang waktu karyawan untuk proses verifikasi yang tidak perlu, atau berisiko mengalami insiden keamanan karena keluaran buatan AI diteruskan tanpa diperiksa. Untuk tugas berisiko rendah seperti penyusunan internal, brainstorming, dan dukungan riset, pengecekan sekilas bisa cukup. Namun, apa pun yang memberi masukan bagi keputusan soal ketenagakerjaan, keuangan, atau konten yang menghadap pelanggan memerlukan proses persetujuan ketat, pemantauan berkelanjutan, dan manusia yang benar-benar terlibat dalam alurnya.
Fielder juga menyoroti fenomena karyawan membawa alat AI mereka sendiri ke tempat kerja. Riset terbaru MetaCompliance menemukan bahwa 40% CISO khawatir staf mereka membagikan informasi sensitif ke platform AI generatif, sementara 68% mengidentifikasi karyawan sebagai risiko siber terbesar organisasi mereka. AI tanpa tata kelola pun menjadi titik buta tata kelola dan keamanan yang terus berkembang.
Risiko itu melampaui apa yang dimasukkan karyawan ke dalam alat AI. Ketika organisasi tidak tahu alat mana yang digunakan atau sejauh mana karyawan mengandalkan keluarannya, mereka memiliki visibilitas terbatas soal apakah informasi buatan AI diverifikasi sebelum ditindaklanjuti. Organisasi tidak bisa mengelola risiko yang tidak diketahui keberadaannya, sehingga memetakan di mana AI tanpa tata kelola benar-benar digunakan lalu menawarkan alternatif aman yang disetujui menjadi langkah penting, alih-alih melarangnya sepenuhnya.
Pendekatan ini memberi organisasi visibilitas lebih besar atas bagaimana AI digunakan dan di mana halusinasi atau keluaran tidak akurat bisa masuk ke proses bisnis, sebelum menjadi liabilitas. Fielder menegaskan bahwa pelatihan generik tidak akan menyelesaikan masalah AI. Karyawan perlu dibekali proses, alat, dan pagar pengaman yang tepat untuk menggunakan AI secara efektif tanpa membahayakan bisnis.
Hal ini mencakup pelatihan untuk mengenali automation bias—kecenderungan kita mempercayai keluaran secara buta—yang dipadukan dengan rutinitas verifikasi eksplisit yang mengubah “periksa ulang keluaran AI” dari instruksi samar menjadi proses yang bisa ditindaklanjuti. Penargetan kesadaran keamanan berbasis peran dan intervensi yang dipicu perilaku juga krusial agar panduan yang tepat sampai ke orang yang tepat pada saat mereka membutuhkannya.
Pada akhirnya, Fielder menilai penanganan halusinasi AI dan risiko AI tanpa tata kelola bermuara pada pelatihan karyawan yang tepat. Sebanyak 81% CISO menyatakan pelatihan kesadaran keamanan gagal karena terlalu generik untuk terasa relevan secara personal. Tanpa konteks yang mencerminkan keputusan yang dihadapi karyawan sehari-hari, pelatihan hanya diselesaikan tetapi jarang diserap dan diterapkan.
Pandangan ini sejalan dengan kekhawatiran yang juga muncul di ekosistem aplikasi sehari-hari, misalnya ketika Meta menghadirkan AI Agent untuk setup WhatsApp Business. Seiring AI makin masuk ke alur kerja, kontrol dan verifikasi menjadi penentu apakah adopsi berjalan aman atau justru membuka celah risiko baru. MetaCompliance menegaskan bahwa menunggu hingga keluaran AI berhalusinasi menimbulkan kerusakan adalah cara paling mahal untuk mempelajari pelajaran ini.
[WARN]“`
Komentar
Belum ada komentar.