Telset.id – Dokumen pengadilan yang baru saja dibuka kembali dalam perkara New York Times terhadap OpenAI dan Microsoft mengungkap peringatan internal bahwa praktik pengambilan data untuk melatih model AI memicu “doom loop” yang berpotensi merusak web. Dokumen setebal 92 halaman itu memuat sejumlah pernyataan dari internal kedua perusahaan, termasuk penilaian bahwa praktik tersebut disebut sebagai “pencurian tenaga kerja terbesar dalam sejarah manusia” dan “lelucon total atas gagasan fair use.”
Pernyataan paling mencolok dalam berkas tersebut berasal dari Director of Applied Science Microsoft, Brent Hecht. Kendati demikian, Microsoft berupaya menjaga jarak dari pernyataan Hecht. Juru bicara Microsoft, Alex Haurek, mengatakan kepada The Verge bahwa komentar tersebut “mencerminkan perspektif individu satu karyawan, bukan analisis hukum, dan tidak mewakili pandangan perusahaan.”
Dalam berkas pengadilan terpisah, Jordan Usdan, GM for Data Strategy and Ops di Microsoft AI, menggambarkan peran Hecht sebagai adversarial. Ia menyebut Hecht “memiliki pandangan yang berbeda, akademis, dan berorientasi ke depan tentang bagaimana ekosistem data untuk AI seharusnya beroperasi” dan dipekerjakan Microsoft untuk menghadirkan sudut pandang asimetris, futuristik, dan akademis. Usdan menegaskan Hecht bukan pihak yang berbicara mewakili Microsoft secara khusus soal pandangan teoretisnya tentang dampak AI terhadap pencipta konten.
Terlepas dari upaya Microsoft untuk tidak mengakui pernyataan tersebut, dokumen yang dibuka itu menunjukkan bahwa peringatan soal “Google Zero” dan AI yang “memakan web” telah menjadi kenyataan. Berkas NYT itu juga memuat sejumlah pernyataan lain dari berbagai tokoh, termasuk Satya Nadella, Sam Altman, dan sejumlah karyawan OpenAI.
Peringatan Internal dan Dampaknya bagi Penerbit
Bagian pendahuluan dokumen mengutip Hecht dan Head of ChatGPT OpenAI, yang diduga Nick Turley, dengan cara yang tampak menunjukkan bahwa kedua perusahaan mengetahui bahwa mereka menimbulkan “ancaman eksistensial” bagi penerbit seperti New York Times. Hecht menyebut pengambilan data oleh ChatGPT dan Copilot sebagai “pencurian tenaga kerja terbesar dalam sejarah manusia” dan menilai pembelaan Microsoft membuat “lelucon total atas gagasan fair use.”
Satya Nadella mengakui bahwa chatbot pada dasarnya telah menggantikan pencarian dan menghilangkan kebutuhan untuk langsung mengakses sumber informasi. Namun yang dinilai lebih memberatkan adalah dokumen internal Microsoft yang menyebutkan bahwa “strategi konten AI kami telah memulai ‘doom loop’ yang akan merugikan performa model kami dan seluruh web pada saat yang sama.” Dokumen itu menyatakan sebagai hal yang sangat tidak biasa ketika sebuah produk akhir mengancam fondasi ekonomi pemasok esensialnya, namun itulah situasi yang tercipta bagi bisnis LLM perusahaan terkait rantai pasok kontennya.
Dokumen tersebut juga menyinggung soal insentif finansial. Salah satu pendiri OpenAI, Greg Brockman, disebut lebih tertarik pada potensi pendapatan “gazillions” dolar yang bisa diperoleh melalui AI komersial.
Soal konten berbayar, meskipun Nadella kemudian dikutip mengatakan bahwa “apa pun yang berbayar seharusnya dilisensikan,” seorang perwakilan OpenAI mengakui bahwa ia “tidak mengetahui” adanya upaya untuk mendeteksi atau menghapus konten berbayar dari data pelatihan.
Baca Juga:
Reproduksi Konten dan Rantai Pasok yang Merusak Diri Sendiri
Secara internal, OpenAI tampaknya menyadari kecenderungan ChatGPT untuk sekadar mereproduksi materi berhak cipta secara “verbatim.” Meski mengakui bahwa “pencegahan memorisasi” penting untuk “meminimalkan pelanggaran hak cipta,” para karyawan mengakui bahwa GPT-4 “menghafal banyak data dan karena itu akan sangat luar biasa dalam regurgitasi.” Berkas tersebut kemudian mengutip sejumlah contoh ChatGPT yang mengeluarkan rangkaian panjang salinan langsung dari artikel di Times, Mercury News, The Denver Post, LifeHacker, dan Eurogamer sebagai respons atas kueri.
Microsoft mengetahui bagaimana pengambilan data internet secara borongan akan dipersepsikan dan mengakui bahwa “hampir tidak ada orang yang berniat agar konten yang mereka buat digunakan dengan cara ini, juga tidak ada kompensasi atas penggunaannya.”
Director of Policy OpenAI, Jack Clark, melihat tanda-tanda ke arah itu dengan mengatakan bahwa pihaknya “menciptakan sistem yang menggantikan tenaga kerja orang-orang yang mendefinisikan ‘budaya’ masyarakat.” Dokumen internal menggambarkan ChatGPT sebagai “kios koran modern.” Nick Turley dari OpenAI kemudian dikutip mengatakan bahwa setelah pengguna mendapat jawaban dari chatbot-nya, “tidak ada alasan bagus untuk mengklik” tautan ke sumbernya.
Microsoft dikutip mengakui bahwa “LLM adalah produk yang menghancurkan rantai pasoknya sendiri” karena dalam banyak kasus menjadi substitusi bagi data pelatihannya sendiri. OpenAI juga mengetahui bahwa pihaknya mematikan lalu lintas rujukan. Para ahli media dan ekonomi di OpenAI mengaitkan penurunan lalu lintas rujukan untuk situs seperti Times langsung dengan ringkasan AI seperti AI Overviews milik Google. Mereka memperkirakan rujukan pencarian turun hingga 60 persen.
Juru bicara Microsoft, Haurek, mengingatkan bahwa “kesaksian Satya dan posisi Microsoft dalam perkara ini sepenuhnya konsisten. Ia berbicara tentang prinsip-prinsip luas dan perubahan yang sedang berlangsung dalam cara orang menemukan dan mengonsumsi informasi.” Menurutnya, observasi tersebut tidak boleh disamakan dengan kesimpulan soal pertanyaan hak cipta yang dihadapi Pengadilan, yang ditangani Microsoft dalam berkasnya.
Namun, berdasarkan dokumen yang baru dibuka itu, tampak jelas bahwa Microsoft dan OpenAI mengetahui bahwa mereka akan merusak industri penerbitan secara tak dapat diperbaiki, termasuk “jutaan orang” yang dipekerjakannya, dan pada gilirannya merusak produk mereka sendiri, tetapi tetap melanjutkan demi mengejar “gazillions” dolar, dengan mengabaikan doom loop yang telah mereka sadari.
Perkembangan ini melengkapi rangkaian persoalan yang membelit OpenAI. Sebelumnya, Hackron AI Bobol OpenAI melalui Claude dan menerima bounty Rp100 juta, sementara di sisi lain, OpenAI, Anthropic, Google juga didesak untuk memasang rem pada pengembangan superintelligence.
[ META_DESCRIPTION]
Dokumen pengadilan NYT vs OpenAI dan Microsoft mengungkap peringatan internal soal “doom loop” AI, pencurian tenaga kerja, dan fair use.
Komentar
Belum ada komentar.