Telset.id – Anthropic dan OpenAI menghadapi pertanyaan tidak nyaman dari sejumlah pelanggan AI besar terkait kekhawatiran bagaimana data milik mereka berpotensi dipakai untuk melatih model AI. Sebagian perusahaan bahkan mulai menuntut jaminan soal penanganan data mereka, hingga membatasi model AI mana yang boleh dipakai karyawan dan untuk tugas apa saja, menurut laporan The Information.
Kekhawatiran ini berpusat pada risiko bahwa model AI dilatih menggunakan kekayaan intelektual dan informasi milik perusahaan. Isu tersebut dapat dilacak kembali ke perubahan kebijakan yang dilakukan Anthropic pada Juni terhadap model unggulannya, Fable. Setelah perubahan itu, Anthropic kini dapat menyimpan data pelanggan. Perusahaan berargumen bahwa penyimpanan data hanya dilakukan untuk memastikan Fable tidak disalahgunakan. Namun, sejumlah perusahaan menilai langkah tersebut berarti data bisnis yang sensitif ikut tersapu dalam kebijakan baru itu.
Baik OpenAI maupun Anthropic menegaskan bahwa secara default mereka tidak melatih model menggunakan informasi yang diberikan oleh perusahaan dengan kontrak enterprise tertentu. Namun, penjelasan itu dinilai belum menggambarkan keseluruhan situasi. Keduanya tetap mengumpulkan metadata dari pelanggan korporat yang sama. Informasi soal isi metadata tersebut sulit diperoleh, tetapi OpenAI menyebut datanya hanya digunakan “to better understand how our services are used.” Anthropic juga berargumen bahwa data yang dikumpulkan soal cara pelanggan memakai produknya bersifat teragregasi dan anonim, serta metadata itu tidak dipakai untuk melatih model.
Meski demikian, kekhawatiran soal kurangnya kejelasan atas apa yang sebenarnya dikumpulkan tetap muncul. Operator telekomunikasi C Spire memiliki perjanjian dengan OpenAI dan Anthropic yang melarang keduanya memakai data C Spire untuk melatih model. Namun, kontrak tersebut tetap mengizinkan OpenAI dan Anthropic mengumpulkan data penggunaan teknis C Spire. C Spire meyakini data itu mencakup informasi tentang aplikasi apa saja yang terhubung dengan model AI serta data penggunaan. Perusahaan juga khawatir kedua perusahaan AI dapat mengumpulkan informasi tentang apa yang dilakukan model mereka di antara proses menghasilkan respons.
OpenAI menyatakan tidak menggunakan data “chain-of-thought” tersebut untuk melatih modelnya. Namun, C Spire tetap merasa perlu memahami lebih baik data apa yang dikumpulkan. Menurut laporan itu, C Spire menilai tidak ada dari kedua perusahaan AI yang memberikan penjelasan secara jelas.
Baca Juga:
Jalan Pintas demi Menjaga Privasi Data
Salah satu solusi atas kekhawatiran privasi adalah menggunakan server air-gapped, langkah yang sudah dipilih perusahaan kedirgantaraan Northrop Grumman. The Information melaporkan bahwa perusahaan tersebut menjalankan model AI open-source di server air-gapped miliknya sendiri, alih-alih mempercayai OpenAI dan Anthropic.
Sebagai alternatif, Microsoft sudah berupaya memanfaatkan kekhawatiran soal privasi data dengan menarik pelanggan OpenAI dan Anthropic ke platform AI amannya. Lingkungan cloud terisolasi milik Microsoft menjalankan model AI di server privat yang tidak mengirim data apa pun ke perusahaan AI eksternal. Namun, pendekatan ini mahal, dan laporan itu menyebut setidaknya satu pelanggan masih mempertimbangkan alternatif dari Microsoft tersebut.
Perusahaan farmasi Novo Nordisk mengambil pendekatan yang sedikit berbeda. Perusahaan ini tetap memakai Claude dari Anthropic untuk sejumlah tugas, tetapi melarang penggunaan data proprietary apa pun oleh model tersebut.
Jelas bahwa kurangnya kepercayaan berpotensi merugikan perusahaan AI secara finansial, dan dalam satu kasus hal itu sudah terjadi. Laporan yang sama menyebut sebuah perusahaan utilitas besar asal Amerika Serikat telah membatalkan rencananya menguji Anthropic Fable. Perusahaan utilitas itu ingin mengetahui apakah Fable bisa menjalankan infrastruktur kelistrikan intinya, tetapi akhirnya membatalkan rencana tersebut karena Anthropic menolak menyetujui kebijakan nonrevocable zero data retention (ZDR).
Nvidia juga memutuskan menggunakan Fable hanya untuk tugas-tugas yang tidak memerlukan akses ke data sensitif. Perusahaan mengacu pada alasan yang sama, yakni tidak adanya jaminan ZDR. Sebagai gantinya, Nvidia memakai solusi AI internalnya sendiri untuk tugas yang dinilai terlalu sensitif bagi model Anthropic. CEO Nvidia Jensen Huang pernah menyatakan bahwa karyawannya sebaiknya menggunakan token AI senilai setengah dari gaji tahunan mereka setiap tahun.
Dampak pada Adopsi AI Enterprise
Tom’s Hardware menghubungi Nvidia untuk meminta komentar, tetapi tidak menerima tanggapan hingga artikel dipublikasikan. Kasus-kasus ini menunjukkan bahwa isu transparansi data tidak lagi sekadar perdebatan teknis, melainkan sudah memengaruhi keputusan pengadaan teknologi di perusahaan besar. Bagi pelanggan enterprise, kejelasan soal apa yang dikumpulkan dan bagaimana data diperlakukan menjadi syarat sebelum model AI diizinkan menyentuh sistem inti mereka.
Ketika perusahaan seperti C Spire, Northrop Grumman, Novo Nordisk, Nvidia, hingga satu perusahaan utilitas AS mengambil sikap berbeda, tekanan terhadap Anthropic dan OpenAI untuk menjelaskan praktik data mereka dengan lebih gamblang pun meningkat. Tanpa kejelasan itu, adopsi model AI di lingkungan bisnis yang sensitif berisiko tertahan, bahkan ketika modelnya sendiri terus berkembang.
Pilihan yang tersedia bagi pelanggan saat ini beragam, mulai dari server air-gapped, lingkungan cloud terisolasi seperti milik Microsoft, hingga larangan internal atas penggunaan data proprietary. Namun, semuanya menuntut biaya dan komitmen tambahan. Situasi ini menempatkan perusahaan AI pada posisi yang harus menyeimbangkan antara pengembangan model dan kepercayaan pelanggan korporat yang menjadi sumber pendapatan mereka.
[ENDFIGURE]
Komentar
Belum ada komentar.