Telset.id – Sebanyak 53% CIO (Chief Information Officer) di Inggris mengaku pernah melihat setidaknya satu AI agent melanggar kebijakan bisnis dan berdampak langsung pada perusahaan atau pelanggan mereka. Angka ini jauh melampaui rata-rata global yang hanya 31%, memunculkan pertanyaan serius soal tata kelola AI di tempat kerja.
Temuan tersebut berasal dari riset yang dilakukan Harris Poll atas nama Dataiku, melibatkan 685 CIO dari Inggris, Prancis, Jerman, Amerika Serikat, Uni Emirat Arab, Jepang, Korea Selatan, dan Singapura. Survei ini menyoroti tantangan tata kelola yang dihadapi para CIO di seluruh dunia, namun hasilnya menunjukkan Inggris menghadapi persoalan yang cukup unik.
Selain tingginya angka pelanggaran kebijakan oleh AI agent, hanya 49% CIO Inggris yang mampu menghasilkan jejak audit untuk menjelaskan tindakan sebuah AI. Sebanyak 68% di antaranya meyakini butuh lebih dari 24 jam untuk mengidentifikasi AI agent yang menyimpang dan membatasi dampaknya.
Tekanan pada CIO dan Fenomena AI-Agent Sprawl
Para CIO menyalahkan apa yang disebut Dataiku sebagai “AI-Agent sprawl”, yakni pembuatan dan penggunaan AI agent kustom di tempat kerja yang diterapkan lebih cepat daripada kemampuan perusahaan untuk mengaturnya. Praktik ini berpotensi membuka risiko bagi organisasi maupun pelanggan.
Tekanan terhadap CIO Inggris untuk membuktikan nilai investasi AI juga meningkat. Sebagian besar dari mereka bahkan memperkirakan akan ada pemotongan anggaran hingga risiko kehilangan pekerjaan jika target yang ditetapkan tidak tercapai.
Tantangan AI sprawl disebut oleh 87% CIO Inggris. Menurut temuan ini, persoalan tersebut bersumber dari kebijakan, prosedur, dan hukum yang mengatur penggunaan AI.
Baca Juga:
Faye Murray, Field Chief Data Officer di Dataiku, menilai lebih dari separuh bisnis Inggris yang melaporkan adanya AI agent melanggar kebijakan seharusnya menjadi sinyal bahwa pemantauan saja tidak cukup. Menurutnya, dampak dari tindakan menyimpang membutuhkan akuntabilitas penuh, dan hal itu tidak bisa ditambahkan setelah insiden terjadi, melainkan harus dirancang sejak awal penerapan.
Autonomy Tanpa Pengelolaan yang Memadai
Implikasi dari temuan ini menunjukkan industri dinilai telah salah langkah dalam menerapkan AI. Sistem otonom tidak bisa begitu saja dibiarkan berjalan sendiri pada skala apa pun.
CEO Dataiku Florian Douetteau menyatakan bahwa industri telah menjual konsep otonomi kepada para CIO namun lupa menyebutkan biayanya, yaitu sistem otonom perlu dikelola, bukan sekadar dipantau. Ia menegaskan bahwa pemantauan hanya memberi tahu apakah sebuah agent sedang berjalan, sedangkan pengelolaan menentukan apakah agent tersebut layak terus dijalankan. Saat ini, menurutnya, hampir tidak ada yang bisa “memecat” sebuah agent.
Bagi bisnis yang AI agent-nya sudah lepas kendali, temuan ini mungkin menjadi bacaan yang tidak nyaman. Namun solusinya menurut Dataiku adalah peningkatan pengawasan, karena satu-satunya alternatif lain adalah mencabut agent tersebut dan berharap semuanya baik-baik saja.
Persoalan tata kelola AI ini sejalan dengan sejumlah perkembangan lain di industri. OpenAI misalnya membentuk grup penasihat matematika setelah kontroversi Navier-Stokes, sementara Oversight Board menyoroti aturan AI deepfake Meta yang dinilai tidak memadai. Di sisi lain, Airbus dilaporkan mengendalikan rover Mars menggunakan Steam Deck Valve.
Dataiku melalui survei ini menegaskan bahwa tantangan utama bukan sekadar kemampuan teknis AI, melainkan bagaimana perusahaan membangun mekanisme pengelolaan yang melekat sejak awal. Tanpa itu, risiko AI agent melanggar kebijakan dan berdampak pada bisnis maupun pelanggan akan terus berulang.
[IMG: https://cdn.mos.cms.futurecdn.net/fNuLsYSse5LcaYMLXDUsbG.jpeg]
Bagi CIO di Inggris, temuan ini memperjelas bahwa investasi AI tidak berhenti pada penerapan teknologi. Akuntabilitas, jejak audit, dan kemampuan menghentikan agent yang menyimpang menjadi bagian yang tidak terpisahkan dari strategi AI itu sendiri.
Komentar
Belum ada komentar.