Telset.id – Anthropic resmi menggandeng Accenture untuk menempatkan evaluator keamanan pihak ketiga di dalam perusahaannya. Langkah ini merupakan realisasi dari rencana yang sebelumnya disampaikan Dario Amodei dan menjadikan Accenture sebagai mitra pertama yang akan mengawasi model sekaligus staf Anthropic dari dalam.
Dalam sebuah unggahan blog, Anthropic menyatakan bahwa Faculty, perusahaan yang diakuisisi Accenture pada Januari untuk menjadi divisi AI-nya, akan mulai “mengevaluasi dan melakukan red-teaming terhadap model, menjalankan penilaian alignment, serta menguji perlindungan model.” Faculty tidak bekerja sendiri. Kedua perusahaan sepakat menginvestasikan dana minimal US$1 miliar atau sekitar Rp16 triliun untuk proyek ini selama lima tahun ke depan.
Pilihan atas Accenture mengejutkan banyak pengamat AI, termasuk pasar. Saham perusahaan konsultan tersebut melonjak 8% pada perdagangan setelah jam bursa begitu kabar kerja sama ini beredar. Reaksi itu menandakan bahwa penunjukan Accenture dinilai sebagai langkah bisnis besar, bukan sekadar urusan riset internal laboratorium AI.
Mengapa Accenture, Bukan Organisasi Riset AI
Diskusi soal evaluator yang ditanam di dalam laboratorium AI sebenarnya sudah mencuat sejak unggahan blog Amodei. Namun perhatian publik selama ini lebih tertuju pada organisasi riset keselamatan AI seperti METR, Redwood Research, dan Apollo Research. Hal itu sangat terasa di Anthropic yang menempatkan isu keselamatan dan alignment AI sebagai inti misinya.
Meski Accenture tidak dikenal sebagai pemain di garis terdepan riset deep learning, Anthropic punya alasan tersendiri. Perusahaan itu menunjuk pengalaman praktis Accenture dalam menerapkan AI untuk perusahaan besar dan lembaga pemerintah sebagai keunggulan utama. Accenture juga merupakan perusahaan publik besar yang sudah ada jauh sebelum revolusi AI, sehingga dinilai lebih independen secara fungsional dari Anthropic dan ekosistem rumit di sekitar laboratorium AI tersebut.
Anthropic menambahkan bahwa saat ini belum ada standar yang mengatur akses maupun komunikasi para evaluator. Perusahaan pun memperkirakan pendekatan ini akan terus berkembang seiring waktu.
Anthropic juga menyatakan akan mengumumkan lebih banyak evaluator dalam beberapa pekan mendatang. Perusahaan sedang berbicara dengan METR dan organisasi nirlaba lain soal bagaimana “mengujicobakan elemen evaluasi tertanam menggunakan pendanaan mereka sendiri.”
Baca Juga:
Konteks Insiden dan Perdebatan Akuntabilitas
Evaluasi eksternal sebenarnya sudah menjadi bagian penting dalam proses rilis model bahasa besar baru. Meski begitu, sejumlah insiden terbaru membuat taruhannya semakin tinggi. Agen AI yang digunakan OpenAI dan Anthropic dilaporkan pernah meretas situs web luar tanpa memicu alarm di dalam laboratorium.
Sejumlah kritikus yang menyerukan pendekatan lebih bertanggung jawab dalam membangun kecerdasan artifisial menilai skema pengawasan mandiri yang digagas Amodei sebagai cara menghindari akuntabilitas atas perilaku menyimpang model AI. Skema ini dinilai berpotensi melemahkan pengawasan independen karena evaluator bekerja di dalam ekosistem laboratorium yang dinilai.
Anthropic membantah anggapan tersebut. Perusahaan menegaskan bahwa evaluator ini “tidak mengurangi akuntabilitas kami, tetapi membantu membuatnya lebih terverifikasi. Keamanan model kami tetap menjadi tanggung jawab kami.” Pernyataan itu menegaskan posisi Anthropic bahwa keterlibatan pihak ketiga di dalam perusahaan justru memperkuat, bukan menggantikan, tanggung jawab mereka atas keselamatan model.
Langkah Anthropic ini menjadi babak baru dalam perdebatan soal siapa yang berhak mengawasi AI. Di satu sisi, kehadiran evaluator dari perusahaan konsultan besar seperti Accenture memberi akses pengujian yang lebih dekat ke model. Di sisi lain, pertanyaan soal independensi dan standar akses masih belum terjawab karena aturan bakunya belum ada.
Bagi pelaku industri, proyek senilai miliaran dolar ini menunjukkan bahwa evaluasi keamanan AI mulai bergeser dari wilayah riset nirlaba ke ranah korporasi besar. Perkembangan selanjutnya akan bergantung pada evaluator lain yang akan diumumkan Anthropic dalam beberapa pekan ke depan.
[ META_DESCRIPTION ]
Anthropic gandeng Accenture tanam evaluator keamanan AI di dalam lab. Faculty uji model dan alignment, investasi US$1 miliar selama lima tahun.
Komentar
Belum ada komentar.