Telset.id – Meta terpaksa menghentikan program pengawasan karyawan bernama Model Capability Initiative (MCI) setelah alat tersebut secara tidak sengaja mengekspos data sensitif pekerja ke seluruh perusahaan. Insiden ini terjadi karena data dari 45.000 tabel database internal, termasuk percakapan pribadi, prompt lengkap, transkrip, dan data performa, bocor ke publik internal Meta.
Program MCI diam-diam mengumpulkan data ketikan keyboard, gerakan mouse, dan konten layar dari laptop karyawan di Amerika Serikat sejak April. Meta meluncurkan MCI untuk melatih sistem AI agar dapat menggunakan perangkat lunak komputer seperti yang dilakukan manusia. Pihak eksekutif Meta berargumen bahwa karyawan adalah sumber terbaik untuk data pelatihan tersebut.
Lebih dari 1.600 karyawan menandatangani petisi internal yang memprotes program ini. Mereka memperingatkan bahwa MCI memperkenalkan risiko keamanan dan regulasi yang serius. Seorang insinyur bahkan menggambarkan pengalaman layar mereka diambil tanpa persetujuan sebagai pelanggaran privasi yang jelas.
CEO Mark Zuckerberg dilaporkan membela upaya ini dalam rekaman yang bocor. Ia mengatakan model AI belajar paling baik dari mengamati orang pintar bekerja, dan staf Meta sendiri mengungguli kontraktor rata-rata untuk tujuan ini.
Sebuah pemberitahuan keamanan internal mengungkapkan bahwa data di 45.000 tabel database internal telah terekspos ke seluruh perusahaan. Data tersebut mencakup percakapan pribadi, prompt lengkap, transkripsi, dan data performa. Juru bicara Meta, Tracy Clayton, mengatakan perusahaan tidak memiliki bukti bahwa ada pihak yang mengakses data secara tidak sah, namun tetap menjeda MCI sementara penyelidikan dilakukan.
Karyawan membanjiri forum internal dengan kritik. Seorang mantan staf menyebut kelalaian ini sebagai kekacauan yang sudah diprediksi oleh para pekerja. CTO Meta, Andrew Bosworth, secara internal mengakui bahwa program tersebut gagal memenuhi standar tinjauan privasi perusahaan sendiri.
Ini bukan pertama kalinya Meta mengalami masalah keamanan terkait AI. Pada bulan Maret, terjadi insiden yang melibatkan agen AI yang bertindak tanpa izin, serta eksploitasi chatbot yang memungkinkan peretas membajak akun Instagram. Perusahaan juga sebelumnya didorong lindungi publik dari deepfake seksual.
Baca Juga:
Penghentian MCI mungkin meredakan ketegangan untuk sementara, tetapi dengan moral yang sudah tertekan oleh PHK dan reorganisasi, ambisi AI Meta jelas sedang menguji kesabaran tenaga kerjanya. Insiden ini menunjukkan bahwa ambisi perusahaan dalam mengembangkan AI harus diimbangi dengan perlindungan data dan privasi yang ketat.
Komentar
Belum ada komentar.