Telset.id – Google resmi menarik fitur AI image generation di Google Earth yang ditenagai model Nano Banana 2. Penarikan ini dilakukan setelah fitur tersebut disalahgunakan untuk menciptakan gambar-gambar menyesatkan yang tersebar luas di media sosial, mulai dari bencana alam, serangan teroris, hingga aktivitas alien di lokasi yang tidak pernah terjadi.
Keputusan ini diambil karena kombinasi antara model AI generatif dengan citra satelit dan data 3D akurat milik Google Earth memberikan kredibilitas tambahan pada gambar palsu yang dihasilkan. Akibatnya, banyak gambar yang diproduksi secara sengaja untuk menyebarkan misinformasi dan kebingungan di kalangan pengguna internet.
Fitur yang baru diluncurkan ini sebenarnya dirancang untuk membantu pengguna memvisualisasikan sejarah, membuat rencana properti, dan berbagai penggunaan kreatif lainnya. Google bahkan memberikan contoh penggunaan seperti membuat infografis tentang Patung Liberty, memvisualisasikan rumah impian di tepi danau, atau membayangkan Pompeii sebelum tertimbun abu vulkanik dari letusan Gunung Vesuvius.
Namun dalam praktiknya, fitur ini justru menjadi alat baru bagi pihak-pihak yang ingin menyebarkan disinformasi. Gambar-gambar yang dihasilkan tidak muncul di pengalaman utama Google Earth untuk dilihat orang lain dan telah diberi watermark sebagai gambar AI, tetapi hal tersebut tidak menghentikan penyebaran konten menyesatkan di platform media sosial.
Baca Juga:
Google menyatakan bahwa banjir gambar yang “melanggar kebijakan” menjadi alasan utama penarikan fitur ini. Perusahaan menegaskan sedang bekerja untuk menerapkan pengaman yang lebih kuat sebelum fitur tersebut diluncurkan kembali.
## Gelombang Penyalahgunaan Fitur AI Google Earth
Peluncuran fitur ini awalnya disambut dengan antusiasme khas Google terhadap produk AI baru. Model Nano Banana 2 yang sudah digunakan di aplikasi Gemini dianggap mampu menciptakan konsep yang berakar pada dunia nyata karena menggabungkan citra satelit, foto udara, dan data 3D dari Google Earth.
Yang menjadi masalah adalah kombinasi antara model AI yang kuat dengan data geografis yang akurat. Gambar palsu yang dihasilkan terlihat lebih meyakinkan karena didasarkan pada lokasi dan lanskap yang benar-benar ada. Ini memberikan lapisan legitimasi yang tidak dimiliki oleh gambar AI generatif biasa.
Beberapa gambar yang beredar memang jelas merupakan lelucon, tetapi banyak pula yang diproduksi dengan sengaja untuk menyesatkan publik. Situasi ini menunjukkan bagaimana teknologi AI dapat dengan cepat dieksploitasi untuk tujuan yang merugikan.
## Pelajaran dari Penarikan Fitur AI
Insiden ini memunculkan sentimen anti-AI yang semakin kuat di kalangan pengguna internet. Banyak pengguna di Reddit menyatakan bahwa fitur semacam ini memiliki “nol kegunaan” dan mereka lelah dengan AI yang “dipaksakan” ke dalam berbagai produk.
Ada beberapa pelajaran penting yang bisa dipetik dari kasus ini. Pertama, tidak semua hal perlu memiliki elemen AI. Beberapa alat justru lebih baik tetap sederhana tanpa tambahan fitur AI yang rumit. Microsoft sebelumnya juga menarik kembali sebagian fitur AI yang ditambahkan ke Notepad setelah mendapat keluhan dari pengguna.
Kedua, sebelum merilis fitur AI baru, perusahaan perlu mempertimbangkan skenario terburuk dalam hal penyalahgunaan. Komunitas internet akan segera menguji batas fitur baru dengan cara-cara yang paling menipu dan tidak etis, sehingga diperlukan langkah pengaman yang memadai sejak awal.
Ketiga, pentingnya memilih sumber informasi yang terpercaya menjadi semakin krusial di tengah maraknya konten AI. Pengguna disarankan untuk tidak mudah percaya pada akun media sosial acak dan lebih mengandalkan publikasi yang memiliki kebijakan jelas tentang penggunaan AI.
Penarikan fitur ini menjadi pengingat bahwa teknologi AI, sekalipun dirancang dengan niat baik, dapat dengan cepat disalahgunakan. Meskipun Google telah memberi watermark pada gambar yang dihasilkan, hal tersebut terbukti tidak cukup untuk mencegah penyebaran misinformasi.
Ke depan, pengguna internet perlu lebih skeptis terhadap konten visual yang beredar, terutama yang berasal dari sumber tidak tepercaya. Kemampuan untuk membedakan antara gambar asli dan gambar AI menjadi semakin penting di tengah perkembangan teknologi yang pesat ini.
Komentar
Belum ada komentar.