Telset.id – Data gelombang otak yang direkam headband tidur wearable ternyata tidak hanya dipakai untuk memantau pola istirahat pengguna, tetapi juga diolah menjadi bahan pelatihan model AI. Investigasi Science bersama Pulitzer Center’s AI Accountability Network menemukan sejumlah perusahaan neuroteknologi telah mengumpulkan puluhan juta jam rekaman electroencephalography (EEG), dan sebagian menggunakannya untuk mengembangkan brain foundation model meski penggunaan itu awalnya tidak dijelaskan dalam kebijakan privasi mereka.
Temuan ini menempatkan pengguna perangkat wearable pemantau tidur sebagai pihak yang paling terdampak. Rekaman otak mereka berubah fungsi menjadi aset data untuk pengembangan kecerdasan buatan, sementara transparansi soal penggunaan tersebut baru muncul setelah perusahaan dimintai keterangan. Interaxon, perusahaan asal Kanada di balik headband tidur dan meditasi Muse, menjadi salah satu nama yang disorot dalam investigasi tersebut.
Interaxon disebut telah melatih model AI menggunakan sekitar 50.000 jam rekaman EEG. Perusahaan menyatakan menghapus informasi identitas seperti nama, email, dan alamat sebelum data digunakan. “Kami berupaya menggunakan sebanyak mungkin korpus yang memenuhi syarat itu,” ujar Nadia Kumentas, Chief Marketing Officer Interaxon, seperti dikutip dari hasil investigasi.
Meski demikian, penggunaan tersebut tidak dijelaskan secara gamblang kepada pelanggan. Sebelum berbicara dengan Science, kebijakan privasi Interaxon tidak secara eksplisit mengungkap bahwa rekaman otak pengguna dapat dipakai untuk melatih foundation model. Perusahaan kemudian memperbarui kebijakan tersebut, dengan Kumentas mengakui, “Kami setuju pengguna harus diberi tahu secara eksplisit.”
Bagi pelanggan yang rekamannya sudah terlanjur digunakan, klasifikasi itu datang terlambat. Kondisi ini berpotensi membuka perusahaan pada gugatan hukum. Isu privasi pun tetap menjadi persoalan utama dalam pengembangan teknologi ini.
Praktik Serupa dan Celah Regulasi
Interaxon bukan satu-satunya perusahaan yang mengembangkan gagasan ini. Emotiv, produsen wearable EEG lainnya, melatih Large Brain model miliknya sebagian menggunakan rekaman dari pelanggan perangkat high-end mereka. Emotiv juga memperbarui kebijakan privasinya setelah mendapat pertanyaan dari Science, dengan mengungkap penggunaan data neural yang telah dianonimkan untuk pelatihan model dengan syarat persetujuan opt-in.
Menurut Science, lebih dari dua pertiga perusahaan yang diteliti secara eksplisit mengizinkan transfer data korporat tanpa persetujuan pengguna. Hal ini berpotensi menjadi masalah signifikan jika sebuah perusahaan neuroteknologi kecil diakuisisi, karena rekaman yang telah terkumpul bisa berpindah ke tangan pemilik baru.
Dari sisi regulasi, Colorado dan California telah mengamendemen undang-undang privasi konsumen mereka agar mencakup data neural, sementara negara bagian lain masih tertinggal. Kekosongan aturan ini menjadi relevan bagi pengguna yang ingin memahami perlindungan atas data biologis mereka, sejalan dengan perhatian pada riset Wearable Prediksi Hipertensi yang menunjukkan makin luasnya pemanfaatan data tubuh oleh perangkat wearable.
Baca Juga:
Cara Kerja Model dan Batasannya
Gagasan di balik sistem ini berbeda dari pelatihan large language model. Alih-alih memberi AI teks dalam jumlah besar, pengembang menyuplai rekaman aktivitas listrik di otak. Model kemudian mempelajari pola berulang yang dapat diadaptasi untuk mengenali kondisi otak tertentu atau membantu tugas penelitian spesifik.
Sejumlah hasil menarik sudah muncul. Startup AI Piramidal melatih modelnya menggunakan lebih dari 4 juta jam data EEG bermitra dengan Cleveland Clinic. Perusahaan mengembangkan sistem deteksi kejang yang berhasil mengidentifikasi sembilan dari sepuluh kejang dalam studi pilot setelah disesuaikan dengan rekaman klinik tersebut.
Kendati begitu, hal itu tidak berarti headband konsumen tiba-tiba bisa membaca pikiran orang. Sebagian besar perangkat EEG wearable hanya memakai satu hingga enam elektroda, jauh lebih sedikit dibanding 19 hingga 25 elektroda yang umumnya ada pada sistem EEG klinis. Rekamannya pun secara umum kurang komprehensif.
Implikasi privasi dari teknologi otak wearable sebenarnya bukan hal yang sepenuhnya baru. Pada Februari, seorang engineer menemukan dirinya bisa mengakses rekaman gelombang otak orang lain melalui smart sleep mask yang ia beli. Ia dilaporkan menyelidiki perangkat itu setelah mengalami masalah koneksi. Dengan memeriksa aplikasi Android-nya, ia menemukan kredensial hardcoded yang tampaknya dipakai bersama antarperangkat, yang kemudian ia temukan sebagai bacaan EEG milik pengguna lain.
Industri juga telah mengumpulkan rekaman neural dalam skala besar. Pada Desember lalu, Coundit berupaya mengumpulkan 10.000 jam data neural dari ribuan pasien. Startup asal San Francisco itu membangun sistem headset sendiri untuk menangkap aktivitas otak bersama ucapan dan teks, dengan tujuan mengembangkan AI yang mampu menerjemahkan sinyal menjadi bahasa.
Meta juga mengerjakan BrainQwerty, antarmuka brain-computer non-invasif yang menerjemahkan aktivitas otak menjadi input keyboard. Sistem generasi keduanya meningkatkan akurasi kata rata-rata menjadi 61% dari 40% pada versi sebelumnya, meski teknologi ini masih jauh dari penggunaan praktis sehari-hari. Langkah Meta di ranah AI wearable turut menjadi sorotan lewat AI Wearable Baru yang dikembangkan perusahaan tersebut.
Bagi pengguna yang mempertimbangkan perangkat pemantau tidur atau wearable kesehatan lain, pilihan pasar saat ini cukup beragam. Xiaomi Indonesia misalnya merilis Tiga Wearable Baru dengan harga mulai Rp 449 ribu. Namun temuan investigasi ini menegaskan satu hal: sebelum memakai perangkat yang merekam data tubuh, penting bagi pengguna untuk memeriksa bagaimana kebijakan privasi mengatur penggunaan data tersebut, termasuk kemungkinan dipakai untuk melatih model AI.
[ META_DESCRIPTION]
Investigasi Science mengungkap data gelombang otak pengguna headband tidur dipakai melatih model AI tanpa penjelasan jelas di kebijakan privasi.
Komentar
Belum ada komentar.