Telset.id – Kemajuan teknologi text-to-video AI kini mencapai titik di mana alat tersebut mampu menghasilkan rekaman fotorealistik dalam sekejap. Namun, kegembiraan para investor besar terhadap kemampuan ini justru memicu kekhawatiran serius tentang penyebaran disinformasi dan pemalsuan sejarah.
Andreessen Horowitz partner Justine Moore baru-baru ini memicu perdebatan sengit setelah memuji kemampuan Black Forest Labs’ Flux 3 AI tool, yang diluncurkan pada akhir Juli. Moore membagikan klip berdurasi 20 detik yang menampilkan “siswa sekolah dasar di tahun 90-an memprediksi bagaimana kita akan menggunakan komputer” kepada publik melalui platform X.
Dalam klip yang dihasilkan AI tersebut, salah satu anak mengucapkan, “Mereka mungkin akan mengerjakan pekerjaan rumah kita,” sementara anak fiksi lainnya menambahkan, “Mungkin mereka akan membuat film untuk kita.” Ucapan terakhir ini dinilai secara sempurna menggambarkan keinginan para eksekutif Hollywood untuk mengubah industri hiburan menjadi pabrik konten berkualitas rendah atau “slop factory.”
Kekhawatiran Distorsi Sejarah
Meskipun klip tersebut tidak terlalu berbeda dari prediksi aktual yang berasal dari tahun 1980-an, seperti yang ditunjukkan Gizmodo, kegembiraan Moore terhadap AI slop ini justru menyoroti pengabaian berbahaya terhadap proliferasi catatan sejarah yang meyakinkan namun sepenuhnya palsu. Fenomena ini diibaratkan sebagai versi teknologi yang lebih canggih dari cara otoritas dalam novel George Orwell “1984” terus-menerus menyunting koran dan catatan masa lalu demi kepentingan penguasa.
Di balik komentar-komentar pujian dari akun-akun yang terkait dengan modal ventura, banyak netizen justru menyuarakan keprihatinan mendalam. “Ini jahat,” tulis salah satu akun. “AI akan mendistorsi sejarah dan realitas melampaui pemahaman.” Akun lain menambahkan, “Ini mimpi buruk, ini adalah risiko besar misinformasi dan kontrol narasi.” Bahkan ada yang menulis, “Bertepuk tangan seperti anjing laut sementara teknologi yang jelas akan digunakan untuk menipu publik diluncurkan.”
Baca Juga:
Para ahli telah lama memperingatkan bahwa AI memenuhi internet dengan propaganda yang mudah dihasilkan. Rezim otoriter sudah menggunakan teknologi ini untuk menyebarkan disinformasi dan mengkonsolidasikan kekuasaan. Pada tahun 2024, OpenAI mengakui bahwa mereka harus campur tangan setelah menemukan kampanye disinformasi yang menggunakan teknologi mereka dan berasal dari Rusia, China, Israel, dan Iran.
Pembelaan Investor
Meskipun ada risiko nyata dalam memfasilitasi pembuatan propaganda berbahaya, Moore tetap pada pendiriannya. “Ini adalah model yang sangat menyenangkan dan kreatif yang dapat melakukan berbagai hal yang sangat mengesankan,” tulisnya dalam cuitan lanjutan.
Bersamaan dengan pengumuman rilis Flux 3, Moore juga membagikan klip bergaya 90-an yang menampilkan dua pembawa acara CNN memberitakan berita. “Hari ini para peneliti mendemonstrasikan AI yang dapat menghasilkan video meyakinkan dari teks,” kata salah satu pembawa acara dalam video tersebut. “Siapa yang akan percaya itu?” balas rekannya.
Sementara prediksi seorang anak kecil bahwa robot akan mengerjakan pekerjaan rumah mereka mungkin tampak tidak berbahaya, alat yang sama dapat digunakan untuk tujuan yang jauh lebih jahat. Kemampuan untuk menghasilkan rekaman historis palsu yang meyakinkan menimbulkan pertanyaan mendasar tentang bagaimana masyarakat akan membedakan fakta dari fiksi di masa depan.
Perkembangan ini menjadi pengingat bahwa di balik kegembiraan para pelaku industri terhadap kemampuan AI, ada tanggung jawab besar untuk memastikan teknologi ini tidak disalahgunakan. Investor seperti Andreessen Horowitz memang memiliki kepentingan finansial dalam kesuksesan perusahaan seperti Black Forest Labs, namun dampak sosial dari teknologi ini jauh melampaui keuntungan bisnis semata.
[CONTENT_END]
Komentar
Belum ada komentar.