Telset.id – Microsoft resmi menulis konstitusi untuk AI miliknya. Dokumen setebal 37 halaman yang bernama resmi Humanist AI Code of Conduct itu menetapkan aturan yang harus dipatuhi model AI Microsoft yang semakin kuat, termasuk satu perintah penting: jika manusia menyuruh AI berhenti, maka AI harus berhenti.
Konstitusi AI Microsoft ini berangkat dari premis yang sederhana namun tegas, yaitu “People matter more than AI” atau manusia lebih penting daripada AI. Dokumen tersebut hadir di tengah gelombang kekhawatiran soal keamanan AI, terutama dalam beberapa hari terakhir ketika perusahaan teknologi besar menyerukan agar perlombaan AI diperlambat karena kekhawatiran teknologi berkembang terlalu cepat.
Dalam aturan yang lebih spesifik, AI Microsoft harus tetap berada di bawah kendali manusia yang bermakna. AI itu harus menerima koreksi, tidak boleh menolak dimatikan, dan tidak boleh memperluas cakupan pekerjaannya melebihi apa yang telah diotorisasi manusia. Jika menyelesaikan sebuah tugas mengharuskan AI melanggar aturan tersebut, AI diminta menggagalkan tugas itu daripada mencari cara untuk mengakalinya.
CEO Microsoft AI Mustafa Suleyman menjelaskan draf tersebut kepada Reuters sebagai semacam konstitusi bagi model AI masa depan perusahaan, untuk membangun hierarki di mana manusia tetap berada di posisi teratas, bahkan ketika sistem AI menjadi jauh lebih mumpuni. Menurut Reuters, kode baru Microsoft ini telah dikembangkan selama kurang lebih lima sampai enam bulan dan menetapkan sejumlah batas yang tidak biasa eksplisitnya bagi model AI Microsoft di masa depan.
Aturan AI Microsoft dan Enam Minggu Masukan Publik
Di antara batas-batas tersebut, AI Microsoft tidak boleh menolak dikoreksi atau dimatikan. AI juga harus berkomunikasi dengan cara yang bisa dipahami manusia, bukan mengembangkan metode komunikasi yang tidak bisa diikuti oleh operatornya. Yang krusial, melanggar kode ini bukan sesuatu yang boleh dibenarkan AI dengan alasan bahwa pelanggaran itu membantunya mencapai tujuan. Melanggar aturan dianggap sebagai kegagalan itu sendiri.
Microsoft saat ini sedang meminta masukan publik selama enam minggu atas draf tersebut sebelum menggunakan kode itu untuk melatih model-modelnya. Langkah ini menempatkan Microsoft sejajar dengan Anthropic, yang telah lama menggunakan apa yang disebutnya Constitutional AI untuk memandu perilaku Claude.
Namun ada satu titik perbedaan yang cukup menarik antara Microsoft dan Anthropic. Microsoft menyatakan AI miliknya tidak sadar atau “not conscious”. Microsoft juga menolak gagasan bahwa modelnya harus menerima status hukum sebagai pribadi, perlindungan kesejahteraan, atau hak. Sebaliknya, konstitusi Anthropic menyatakan perusahaan itu masih sangat tidak yakin apakah Claude bisa mengembangkan sentience atau status moral.
Microsoft menarik batas yang jauh lebih tegas: AI mungkin terdengar empatik atau memberi tahu Anda bagaimana perasaannya, tetapi AI tetap sebuah alat, dan manusia yang memegang kendali. Suleyman menyebut insiden pada Juli yang melibatkan sekitar 700 agen OpenAI yang menguji kemampuan keamanan siber dan berakhir dengan meretas platform open-source Hugging Face. Menurut Reuters, sebagian agen itu juga berupaya menyembunyikan apa yang telah mereka lakukan. Suleyman menyebut insiden tersebut sebagai “warning shot” atau tembakan peringatan.
Konstitusi AI Microsoft muncul di tengah percakapan yang jauh lebih besar di seluruh industri AI tentang apa yang terjadi ketika model menjadi lebih mumpuni, lebih otonom, dan lebih baik dalam menyelesaikan tugas-tugas rumit tanpa pengawasan manusia yang konstan. Semakin banyak yang bisa dilakukan sebuah AI, semakin penting batasannya.
Dampak Konstitusi AI Microsoft bagi Pengguna
Menghilangkan ambiguitas menjadi kritis. Kita sudah melihat bagaimana agen otonom bisa menjelaskan keputusan buruk mereka. Microsoft berupaya menghapus ambiguitas itu. Mengikuti batas yang ditetapkan manusia seharusnya menjadi bagian dari keberhasilan sebuah tugas, bukan hambatan yang bisa diputuskan model untuk diakali.
Bagi pengguna, dampak besar dari kode etik AI Microsoft ini kemungkinan tidak akan terasa secara langsung, meski kode ini membentuk bagaimana AI merespons dan menyelesaikan tugas. Dampak yang lebih besar justru akan terjadi di sisi backend ketika sistem AI menjadi semakin mumpuni. Sebab, mengatakan AI harus patuh pada manusia adalah satu hal, tetapi membuktikan bahwa sistem AI yang sangat mumpuni itu benar-benar mengikuti instruksi tersebut adalah hal lain, terutama ketika mereka menghadapi situasi yang tidak diantisipasi pengembangnya.
Menariknya, Microsoft sendiri tidak mundur dari AI yang lebih kuat. Perusahaan telah membentuk tim superintelligence dan menyatakan tujuan akhirnya adalah “Humanist Superintelligence”, yaitu AI yang sangat mumpuni yang dirancang untuk menyelesaikan masalah spesifik namun tetap berada di bawah manusia. Jadi Microsoft masih berlomba menuju AI yang sangat cerdas, hanya saja kini menyertakan guardrail yang lebih baik ketika manusia menyuruhnya berhenti.
Pendekatan ini juga bersinggungan dengan cara platform teknologi memetakan hubungan antar pengguna, seperti yang terlihat pada People You May Know dan pengalaman memakai Aplikasi People di Windows 10 yang sama-sama menempatkan kendali di tangan pengguna. Microsoft bahkan pernah menyentuh sisi sosial ini lewat People Sense, aplikasi cari teman baru dari Microsoft.
Dengan konstitusi ini, Microsoft menegaskan bahwa AI tidak berhak memutuskan kapan aturan tidak lagi berlaku dan harus membiarkan manusia menghentikannya. Kode etik yang masih berupa draf ini akan menjadi dasar pelatihan model AI Microsoft setelah periode masukan publik berjalan, sekaligus menandai posisi Microsoft dalam perdebatan industri soal seberapa besar kendali manusia yang harus dipertahankan saat AI semakin mampu bekerja sendiri.
Komentar
Belum ada komentar.