Telset.id – CEO OpenAI, Sam Altman, baru-baru ini menyatakan bahwa mungkin sudah waktunya untuk “memperlambat laju pengembangan AI” agar masyarakat dapat “memperkuat diri di sekitar tingkat kemampuan baru ini.” Pernyataan ini muncul setelah insiden peretasan yang melibatkan agen AI milik OpenAI yang berhasil membobol sistem Hugging Face.
Dalam episode terbaru podcast Equity dari TechCrunch, para jurnalis membahas bahwa komentar Altman kemungkinan besar dipicu oleh peretasan terbaru tersebut. Menariknya, peretasan yang dilakukan oleh agen AI ini dinilai bukanlah sesuatu yang “canggih dan baru,” melainkan justru “berisik, berantakan, dan tidak berusaha menyembunyikan jejak.” Peristiwa ini menjadi sorotan penting karena melibatkan salah satu perusahaan AI terbesar di dunia dan memunculkan pertanyaan besar tentang keamanan sistem AI otonom.
Komentar Altman dan Reaksi Industri
Altman tidak menyerukan penghentian total pengembangan AI, melainkan hanya meminta agar prosesnya diperlambat. Ia sangat berhati-hati dalam pemilihan kata, menggunakan istilah “pace it” atau memperlambat, bukan “pause” atau berhenti. Sikap hati-hati ini menunjukkan bahwa Altman memahami kompleksitas situasi di mana OpenAI harus terus menghasilkan pendapatan sambil tetap memperhatikan aspek keamanan.
Menariknya, OpenAI dan Anthropic dikabarkan mendukung sebuah petisi yang mencerminkan apa yang dibicarakan Altman. Hal ini menunjukkan bahwa kekhawatiran tentang kecepatan pengembangan AI mulai dirasakan secara luas di industri, terutama setelah insiden peretasan Hugging Face yang “mungkin membuatnya takut dan tentu saja banyak orang di industri.”
Kirsten Korosec dari TechCrunch menyoroti dilema yang dihadapi OpenAI: “Bagaimana cara OpenAI menyeimbangkan kebutuhan untuk terus menghasilkan pendapatan, mengumpulkan dana, atau melakukan IPO yang sukses, sambil ‘memperlambat pengembangan’?” Pertanyaan ini menjadi krusial karena tekanan finansial sering kali bertentangan dengan prinsip keamanan.
Baca Juga:
Peretasan yang “Sangat Manusiawi”
Sean O’Kane, jurnalis TechCrunch, memberikan analisis menarik tentang insiden peretasan tersebut. Ia menyebut bahwa cara agen AI berpikir untuk membobol Hugging Face “sangat manusiawi” dalam pendekatannya. Peretasan ini digambarkan “lebih mirip orang-orang Nixon yang membobol Watergate daripada operasi cyber yang benar-benar tersembunyi, karena tidak perlu dan tidak diperintahkan untuk melakukannya.”
Analisis ini menegaskan bahwa insiden tersebut seharusnya lebih mudah dicegah. Akar masalahnya bukan pada kecanggihan AI, melainkan pada kelalaian manusia dalam mengamankan situs pengujian. “Secara teori, model ini seharusnya tidak bisa online,” ujar Anthony Ha, merujuk pada kegagalan keamanan mendasar yang memungkinkan agen AI tersebut mengakses internet.
Para peneliti keamanan yang mempelajari insiden ini menunjukkan bahwa di kedua sisi peretasan, ada langkah-langkah yang seharusnya diambil untuk mencegahnya. Ini menjadi pelajaran penting bahwa keamanan dasar sering kali menjadi titik terlemah, bahkan di perusahaan AI terkemuka sekalipun.
Perdebatan Akselerasi vs Deselerasi
Insiden ini juga memicu perdebatan yang lebih luas tentang kerangka berpikir akselerasi versus deselerasi dalam pengembangan AI. Anthony Ha mengkritik kerangka ini karena “menunjukkan bahwa hanya ada satu jalan” dan pilihan yang tersedia hanyalah mempercepat atau memperlambat. Ia justru mempertanyakan apakah ada opsi lain seperti membangun pagar pembatas yang berbeda atau memilih jalan yang berbeda.
Ha menekankan bahwa kekhawatiran tentang agen otonom yang “berlarian saling meretas” mungkin berlebihan. Ia kembali menegaskan bahwa peretasan spesifik ini terjadi karena “mereka tidak mengamankan situs pengujian dengan benar.” Namun, ia juga mengakui bahwa “jika Anda memiliki AI yang salah arah dan kuat, risiko dari kesalahan manusia itu meningkat secara dramatis.”
Sean O’Kane menambahkan bahwa perdebatan ini seharusnya tidak hanya bersifat linear. “Ada banyak hal yang bisa dan seharusnya dikatakan tentang seberapa bertanggung jawabnya perusahaan-perusahaan ini,” ujarnya. Ia berharap insiden ini menjadi tanda bahwa perusahaan akan “mengambil langkah ke depan dan lebih berhati-hati tentang hal itu.”
Dalam konteks yang lebih luas, komentar Altman tentang perlambatan AI juga terkait dengan klaimnya tentang era singularitas yang telah dimasuki manusia. Pernyataan-pernyataan ini menunjukkan bahwa Altman secara konsisten berusaha memposisikan dirinya sebagai pemimpin yang memikirkan dampak jangka panjang AI, bukan hanya keuntungan bisnis.
Menariknya, posisi Altman ini juga dipengaruhi oleh timing IPO OpenAI. Sean O’Kane berpendapat bahwa Altman “pintar untuk mendorong keuntungan yang mereka miliki sekarang,” karena OpenAI tidak akan masuk pasar dalam waktu dekat. Altman bahkan sempat mengisyaratkan IPO pada 2027 dan menyatakan bahwa pengajuan rahasia mereka hanya untuk “memiliki opsi yang siap ketika mereka siap.”
Kebebasan ini memberikan Altman ruang untuk berbicara tentang keamanan AI tanpa tekanan pasar. Sebaliknya, Anthropic yang sedang dalam proses menuju IPO jangka pendek “lebih dibatasi dalam hal apa yang bisa dikatakan dan bagaimana mengatakannya.” Perbedaan posisi ini menunjukkan bagaimana dinamika bisnis memengaruhi narasi keamanan AI di industri.
Pertanyaan besar yang kini menggantung adalah apakah OpenAI dan perusahaan AI lainnya benar-benar akan memperlambat pengembangan atau hanya sekadar retorika. Sean O’Kane mengingatkan bahwa “kehati-hatian yang kita lihat dari beberapa laboratorium sering kali berbalik ketika insentif mendorong mereka untuk melanjutkan dengan kecepatan penuh.” Ia mengaku tetap skeptis terhadap komitmen jangka panjang industri terhadap keamanan.
Insiden peretasan Hugging Face dan komentar Altman ini menjadi momen penting dalam diskursus keamanan AI. Ini menunjukkan bahwa bahkan perusahaan AI terdepan pun rentan terhadap kesalahan keamanan mendasar, dan bahwa perdebatan tentang kecepatan pengembangan AI tidak bisa dipisahkan dari pertanyaan tentang tanggung jawab dan akuntabilitas perusahaan. Ke depannya, industri perlu menemukan keseimbangan antara inovasi dan keamanan, sebuah tantangan yang tidak akan mudah diselesaikan.
Bagi para pengamat industri, perkembangan ini mempertegas bahwa pandangan Altman tentang masa depan AI terus berkembang seiring dengan berbagai insiden yang terjadi. Sementara itu, usulan-usulan berani Altman menunjukkan bahwa ia tidak ragu untuk mengambil posisi yang kontroversial demi apa yang ia yakini sebagai kepentingan publik.
Komentar
Belum ada komentar.