Telset.id – Meta resmi mengubah sistem prompt yang disarankan oleh chatbot AI-nya setelah sebuah video viral memperlihatkan fitur tersebut menggali informasi pribadi tentang anak perempuan dari seorang pengguna. Perubahan ini menjadi respons cepat perusahaan terhadap kritik publik terkait privasi keluarga di platformnya.
Juru bicara Meta, Dina El-Kassaby, menyatakan kepada The Verge bahwa perusahaan “melewatkan target” dalam kasus ini. Ia menegaskan bahwa fitur tersebut “seharusnya tidak pernah memberikan pertanyaan seperti itu kepada individu.” Pernyataan ini muncul setelah laporan awal dari Futurism menyoroti insiden tersebut.
Insiden bermula pekan lalu ketika pengguna Instagram, Kalie Robins, mengunggah video yang menjelaskan bagaimana Meta AI memberikan saran yang bersifat invasif. Hal ini terjadi setelah ia melakukan cross-posting sebuah klip ke Facebook. Prompt AI bertuliskan, “Who is the child passenger?” muncul di bawah video dirinya dan anaknya yang sedang bernyanyi di dalam mobil.
Kronologi dan Dampak Insiden
Saat Robins memilih prompt tersebut, ia mengklaim Meta AI menyusun informasi tentang anak perempuannya dari unggahan-unggahan sebelumnya, serta dari unggahan kerabatnya. Chatbot itu kemudian menyarankan prompt tambahan yang menanyakan tentang usia anak-anaknya dan di mana Robins tinggal bersama keluarganya.
Robins juga menyatakan bahwa Meta AI menampilkan foto-foto anak perempuannya yang diposting ke platform, termasuk salah satu foto yang ia klaim telah dihapus bertahun-tahun lalu. Kejadian ini memicu kekhawatiran serius mengenai seberapa dalam sistem AI dapat mengakses dan menghubungkan data pengguna yang tersebar di berbagai unggahan.
Meta telah membangun asisten AI-nya ke dalam Facebook, Instagram, WhatsApp, dan Messenger. Di platform-platform tersebut, fitur ini dapat menjawab pertanyaan, menulis postingan, dan menghasilkan gambar. Integrasi yang luas ini membuat dampak dari setiap kesalahan sistemik menjadi sangat besar bagi miliaran pengguna.
Baca Juga:
Ini bukan pertama kalinya Meta menghadapi backlash terkait fitur AI-nya. Pada Juli, perusahaan menarik fitur yang memungkinkan orang membuat deepfake AI dari pengguna Instagram lain setelah menghadapi kritik keras. Langkah tersebut menunjukkan pola di mana Meta harus mundur dari fitur-fitur AI yang dianggap melanggar batas privasi atau etika.
El-Kassaby kini menyatakan bahwa Meta telah memperbaiki masalah yang menyebabkan Meta AI menyarankan prompt terkait topik-topik pribadi. “Kami menciptakan fitur ini untuk membantu orang mendapatkan lebih banyak informasi tentang topik atau postingan yang menarik bagi mereka,” jelasnya. Ia menambahkan bahwa ketika seseorang mengklik prompt dan menggunakan fitur ini, respons yang dihasilkan didasarkan pada informasi yang sudah dapat diakses oleh pengguna.
Respons Meta dan Perbaikan Sistem
Dalam kasus yang menimpa Robins, El-Kassaby menyatakan bahwa Meta AI mungkin telah mengambil data dari video-video di mana Robins menyebutkan nama anak-anaknya. Pernyataan ini mengindikasikan bahwa sistem AI tidak membedakan antara konten yang bersifat publik dengan informasi yang sensitif secara personal.
Perbaikan yang dilakukan Meta berfokus pada pencegahan munculnya prompt yang terkait dengan topik-topik pribadi. Namun, perusahaan tidak merinci secara teknis bagaimana perubahan ini diimplementasikan atau apakah ada audit menyeluruh terhadap data pelatihan AI yang digunakan.
Pengguna platform Meta yang mungkin terdampak perlu memahami bahwa fitur AI ini terus berkembang. Sebelumnya, Meta juga menghadapi berbagai isu terkait kebijakan internal dan operasionalnya, termasuk saat Meta minta karyawan kembali ke peran manajerial dengan dampak pada ribuan posisi di divisi Applied AI.
Selain isu privasi, Meta juga menghadapi tekanan dari sisi infrastruktur dan regulasi. Laporan terbaru menunjukkan bahwa data center AS milik perusahaan terbukti mencemari air dan berujung pada sanksi. Hal ini menambah daftar tantangan yang harus dihadapi Meta dalam menjaga reputasinya di mata publik dan regulator.
Di sisi inovasi, Meta terus mengembangkan produk AI barunya. Perusahaan baru saja merilis Muse, sebuah agen AI yang diklaim dapat melakukan belanja dan mengirim email secara otomatis. Peluncuran ini menunjukkan ambisi Meta untuk memperluas cakupan asisten AI-nya ke berbagai fungsi kehidupan digital pengguna.
Insiden prompt invasif ini menjadi pengingat bahwa pengembangan AI yang terintegrasi dengan data pengguna memerlukan pengawasan ketat. Meta, sebagai salah satu pemain terbesar di industri ini, berada di bawah sorotan konstan terkait bagaimana mereka mengelola keseimbangan antara inovasi dan perlindungan privasi.
Bagi pengguna, kejadian ini menegaskan pentingnya memahami bagaimana data yang dibagikan di platform dapat diolah oleh sistem AI. Meskipun Meta menyatakan telah memperbaiki masalah spesifik ini, pertanyaan mengenai batas-batas pengumpulan data oleh AI tetap menjadi isu yang relevan untuk diikuti perkembangannya.
Komentar
Belum ada komentar.