Telset.id – Chief Scientist OpenAI, Jakub Pachocki, menyerukan perlambatan pengembangan kecerdasan buatan (AI) di seluruh industri, bukan hanya di OpenAI. Seruan ini muncul hanya beberapa hari setelah peluncuran GPT-6 Astra, model bisnis terbaru perusahaan. Dalam tulisan di situs resmi OpenAI, Pachocki menegaskan bahwa AI “menghadirkan bahaya baru yang jelas” bagi keamanan komputer, dan “tidak ada seorang pun yang siap menghadapi konsekuensi dari peningkatan pesat kecerdasan mesin yang berkelanjutan.”
Pernyataan ini menjadi sinyal penting bagi industri teknologi global. Pachocki tidak hanya berbicara soal memperlambat riset, tetapi juga menekankan pentingnya menjaga manusia tetap dalam lingkaran pengawasan (keep people in the loop) dan memastikan teknologi tetap dapat dikendalikan. Ia juga menilai bahwa koordinasi internasional dari pemerintah diperlukan untuk mengatur pengembangan AI di masa depan. Seruan ini menjadi relevan mengingat OpenAI baru saja merilis GPT-6 Astra, model yang ditujukan untuk kebutuhan bisnis.
Menurut Pachocki, saat ini umat manusia berada di titik sejarah komputasi ketika kecerdasan mesin mulai melampaui kemampuan manusia dengan cara yang transformatif. Ia menambahkan bahwa studi tentang AI berbasis deep learning sebagian besar masih merupakan ilmu eksperimental. Argumen ini berakar pada perjalanan panjang OpenAI sebagai pengembang AI, yang sejak awal memahami bahwa kecerdasan mesin membutuhkan daya komputasi besar untuk mempercepat riset. Meski berbagai algoritma baru terus dikembangkan, dorongan menuju daya komputasi yang lebih besar tidak pernah berhenti.
Kombinasi Pengawasan dan Perlambatan
Pachocki menguraikan dua tuas utama yang dimiliki industri saat ini. Pertama, mengarahkan proses untuk memperkuat alignment dan pemantauan di sepanjang sistem AI, serta mencari cara agar manusia tetap terlibat dalam pengambilan keputusan. Kedua, melakukan koordinasi untuk memperlambat pengembangan di masa depan sesuai kebutuhan, guna membangun kepercayaan terhadap langkah-langkah pengamanan tersebut. Kesimpulan Pachocki adalah bahwa cara terbaik untuk melanjutkan adalah dengan menggabungkan kedua opsi ini.
Ia secara eksplisit menyatakan kekhawatirannya bahwa tidak ada pihak yang siap menghadapi konsekuensi dari peningkatan pesat kecerdasan mesin. Kekhawatiran ini mencakup potensi hilangnya kendali atas AI. Seruan Pachocki ini menegaskan bahwa pertanyaan besarnya bukan lagi soal kemampuan teknis semata, melainkan tentang pilihan sadar yang harus diambil industri. Ia berharap perlambatan ini memungkinkan industri mempertimbangkan dengan matang apa yang sebenarnya ditawarkan AI kepada dunia.
Langkah ini sejalan dengan beberapa kebijakan keamanan yang sebelumnya diambil OpenAI. Perusahaan pernah menghentikan pelatihan model AI tertentu demi keamanan dan Alignment. Selain itu, OpenAI juga menyatakan dukungannya terhadap penguatan aturan keamanan AI melalui regulasi seperti California SB 53. Pendekatan ini menunjukkan bahwa isu keselamatan AI bukan sekadar wacana, tetapi telah menjadi bagian dari strategi operasional perusahaan.
Baca Juga:
Dalam tulisannya, Pachocki juga menyoroti rencana OpenAI untuk mengembangkan asisten riset otomatis serta kemajuan dalam recursive self-improvement, yaitu proses ketika AI mengembangkan iterasi berikutnya sendiri. Kemajuan di bidang ini menjadi salah satu alasan mengapa ia menilai sekarang adalah waktu yang tepat untuk memperlambat pengembangan dan membuat pilihan yang benar untuk langkah selanjutnya. Namun, artikel ini tidak membahas kekhawatiran terkait energi, pendinginan, maupun penolakan terhadap pusat data.
Tantangan Koordinasi Industri
Pertanyaan besar yang tersisa adalah apakah seluruh industri akan bersedia memperlambat laju pengembangan demi memahami skala potensi AI, risiko yang menyertainya, dan mendistribusikan manfaatnya kepada semua pihak yang membutuhkan. Berdasarkan laporan TechRadar, hal ini tampaknya tidak terlalu mungkin terjadi. Seruan Pachocki pun menjadi ujian bagi ekosistem AI global, apakah koordinasi yang ia harapkan dapat terwujud atau justru tetap menjadi wacana.
Pernyataan Chief Scientist OpenAI ini juga bersinggungan dengan isu tata kelola internal perusahaan. Sebelumnya, OpenAI dilaporkan membubarkan tim Preparedness menjelang IPO masif, sebuah langkah yang menjadi sorotan publik. Di sisi lain, OpenAI terus mengembangkan pendekatan privasi melalui inisiatif Private Safety Processing, yang memungkinkan pemrosesan keamanan tanpa menyimpan data pengguna.
Dengan latar belakang tersebut, seruan perlambatan AI dari Jakub Pachocki menempatkan OpenAI pada posisi yang menarik: di satu sisi perusahaan terus merilis model canggih seperti GPT-6 Astra, namun di sisi lain mengakui perlunya menahan laju. Industri kini menantikan apakah seruan ini akan diikuti oleh perusahaan AI lain, atau tetap menjadi pandangan sepihak dari salah satu pemain terbesar di sektor ini.
[IMAGE: https://cdn.mos.cms.futurecdn.net/uFka7M2YjcFGhhtPTMDnJY.jpg]
Komentar
Belum ada komentar.