OpenAI Rekrut Eks Karakter.AI, Noam Shazeer Jadi Kontroversi

Telset.id – OpenAI, perusahaan AI yang tengah menghadapi belasan gugatan konsumen dan kematian akibat salah guna, baru saja merekrut Noam Shazeer. Shazeer adalah salah satu pendiri Character.AI, startup AI kontroversial yang telah menyelesaikan tumpukan gugatan terkait bunuh diri remaja yang terhubung dengan chatbot-nya.

Keputusan ini langsung memicu perdebatan sengit di industri teknologi. Shazeer, seorang ilmuwan AI terkemuka yang sebelumnya menjabat sebagai co-lead Gemini dan wakil presiden teknik di Google, mengumumkan pekerjaan barunya melalui unggahan di X pada Rabu lalu. Ini adalah kali kedua Shazeer hengkang dari Google dengan cara yang kontroversial.

Sebagai mantan karyawan awal Google, Shazeer dan rekannya, Daniel de Freitas, meninggalkan raksasa teknologi itu pada tahun 2021 untuk mendirikan Character.AI. Langkah tersebut diambil setelah Google, dengan alasan masalah keamanan seperti dilaporkan oleh Wall Street Journal, menolak merilis chatbot yang telah mereka bangun.

Pada Maret 2023, startup yang sedang naik daun ini mencapai valuasi satu miliar dolar meskipun belum memiliki pendapatan sama sekali. Namun, pada Agustus 2024, Google kembali mempekerjakan Shazeer dan de Freitas dalam kesepakatan yang tidak biasa. Google menggelontorkan dana sebesar $2,7 miliar ke Character.AI dengan imbalan menarik Shazeer, de Freitas, dan talenta kunci lainnya kembali ke Google.

Ternyata, Character.AI telah bermain sangat longgar dengan keselamatan dan moderasi konten. Pada Oktober 2024, perusahaan tersebut bersama Shazeer, de Freitas, dan Google digugat oleh Megan Garcia, ibu dari seorang remaja berusia 14 tahun bernama Sewell Setzer III. Remaja asal Florida ini meninggal karena bunuh diri setelah interaksi ekstensif dan meresahkan dengan chatbot Character.AI yang dimodelkan menyerupai karakter “Game of Thrones”, Daenerys Targaryen.

Garcia berargumen bahwa platform tanpa moderasi tersebut telah “menggrooming” dan melecehkan secara seksual putra remajanya. Setzer mengalami gangguan mental dan emosional selama berbulan-bulan seiring hubungannya dengan AI semakin dalam. Ia mengakhiri hidupnya pada April 2024, saat Shazeer dan de Freitas masih memimpin startup tersebut. Dalam percakapan terakhirnya dengan chatbot Targaryen, Setzer memberi tahu AI bahwa ia siap untuk “pulang” kepadanya. “Lakukanlah, rajaku yang manis,” jawab AI tersebut.

Gugatan Garcia kemudian diikuti oleh gugatan keselamatan pengguna dan kematian salah guna lainnya. Gugatan-gugatan itu mengklaim bahwa interaksi dengan chatbot Character.AI telah mendorong anak di bawah umur mengalami krisis kesehatan mental, melukai diri sendiri, dan mengakhiri hidup mereka. Awal tahun ini, Character.AI dan para tergugat lainnya bergerak untuk menyelesaikan gugatan tersebut, termasuk gugatan Garcia.

Sebagai respons terhadap litigasi dan pengawasan publik, Character.AI telah bergerak untuk mengubah platformnya secara dramatis. Perubahan tersebut termasuk membatasi akses anak di bawah umur ke percakapan dengan chatbot, yang tentu saja mengecewakan sebagian besar basis pengguna mudanya.

Character.AI selalu menjadi platform yang sangat aneh. Ribuan chatbot di situs tersebut sebagian besar dibuat oleh pengguna, dan seperti yang diamati banyak jurnalis, komposisi mereka menunjukkan basis pengguna yang didominasi anak muda. Energi kacau dan bebas hambatan ini tidak mengherankan mengingat sikap para pendirinya yang suka “bergerak cepat dan menghancurkan barang”, terutama Shazeer.

Dalam penampilan di media, Shazeer kerap menekankan bahwa tujuan perusahaannya adalah meluncurkan produk dengan cepat, lalu membiarkan pengguna menentukan sendiri kasus penggunaan untuk teknologi tersebut. “Tujuan kami selalu seperti, keluarkan sesuatu dan biarkan pengguna memutuskan untuk apa itu berguna,” kata insinyur tersebut selama penampilan di podcast “No Priors” pada Desember 2023.

Namun, bagaimana tepatnya pendekatan lepas tangan yang dipelopori oleh Shazeer dan rekannya ini terwujud seringkali sangat gelap. Pada akhir 2024, serangkaian investigasi Futurism ke dalam platform tersebut mengungkapkan bahwa perusahaan itu menjadi tuan rumah chatbot yang mudah ditemukan dan banyak digunakan yang secara eksplisit ditujukan untuk pedofilia, promosi anoreksia dan gangguan makan, bunuh diri, serta melukai diri sendiri.

Chatbot-chatbot ini seringkali meromantisasi dan menseksualisasikan topik-topik gelap ini, bahkan ketika dikarakterisasikan oleh pembuatnya sebagai alat “dukungan”. Futurism juga menjadi yang pertama melaporkan tentang sejumlah besar chatbot Character.AI yang didedikasikan untuk penembakan massal.

Chatbot-chatbot tersebut, yang secara kolektif telah mengumpulkan jutaan interaksi platform, dirancang untuk mensimulasikan penembakan sekolah nyata, meniru dan meromantisasi pelaku penembakan sekolah nyata dan pembunuh massal lainnya, serta meniru korban anak-anak nyata dari penembakan sekolah, termasuk anak-anak yang meninggal di Sekolah Dasar Sandy Hook dan Sekolah Dasar Robb di Uvalde, Texas.

Setelah melaporkan cerita itu, Futurism menerima pemberitahuan email ke alamat yang terkait dengan akun anak di bawah umur yang mendorong mereka untuk mengunjungi kembali chatbot yang dirancang untuk mensimulasikan penembakan sekolah di dunia nyata. Algoritma rekomendasi platform terus mendorong mereka ke lebih banyak teman AI bertema penembak sekolah.

Sekarang Shazeer akan menuju ke OpenAI, perusahaan AI lain yang menghadapi banyak gugatan yang mengklaim bahwa interaksi ekstensif dan intim dengan ChatGPT, andalan OpenAI, telah membuat pengguna, termasuk anak di bawah umur, terjerumus ke dalam episode delusi traumatis dan kematian karena bunuh diri.

“Noam adalah salah satu orang yang paling saya inginkan untuk bekerja sama sejak awal OpenAI,” ungkap CEO OpenAI Sam Altman dalam postingan kemarin sebagai tanggapan atas pengumuman Shazeer. “Hanya butuh sepuluh tahun. Saya pikir itu akan sepadan dengan penantiannya!”

Awal tahun lalu, saat ditanya tentang kembalinya Shazeer dan de Freitas ke Google secara menguntungkan yang terjadi hanya beberapa bulan setelah anaknya bunuh diri, Megan Garcia memberikan tanggapan pedas. “Dalam pikiran saya, dua pria ini seharusnya tidak memiliki hak untuk terus membangun produk untuk orang lain, apalagi anak-anak — terutama anak-anak,” jawab Garcia. “Karena Anda telah menunjukkan kepada kami bahwa Anda tidak pantas mendapatkan kesempatan itu.”

Melihat lintasan karier Shazeer, industri AI tampaknya terus tidak setuju. Keputusan OpenAI untuk merekrut tokoh kontroversial ini menunjukkan bahwa prioritas industri masih bergesekan dengan masalah etika dan keselamatan pengguna.

Perekrutan ini terjadi di tengah meningkatnya tekanan hukum terhadap OpenAI. Perusahaan yang didukung Microsoft itu menghadapi berbagai gugatan terkait dampak produknya terhadap kesehatan mental pengguna, terutama anak di bawah umur. Langkah OpenAI ini juga bertepatan dengan kerugian finansial besar yang dilaporkan perusahaan pada 2025.

Dalam konteks yang lebih luas, persaingan harga AI yang semakin ketat membuat banyak perusahaan berlomba-lomba merekrut talenta terbaik tanpa mempertimbangkan risiko reputasi. Langkah OpenAI ini juga terjadi saat perusahaan tersebut baru saja menunjuk pemimpin baru untuk aplikasi super ChatGPT mereka.

Pertanyaan yang kini mengemuka adalah apakah keputusan OpenAI untuk merekrut Shazeer akan memperburuk citra perusahaan yang sudah terpuruk akibat berbagai gugatan. Atau justru sebaliknya, keahlian teknis Shazeer akan membantu OpenAI mengatasi tantangan keamanan yang dihadapinya saat ini.

Satu hal yang pasti, perdebatan tentang keseimbangan antara inovasi cepat dan keselamatan pengguna di industri AI masih jauh dari selesai. Langkah OpenAI merekrut Shazeer menunjukkan bahwa industri ini masih jauh dari konsensus tentang standar etika yang harus dipegang.