Telset.id – OpenAI membuka peluang chip inferensi buatannya, Jalapeño ASIC, digunakan oleh pihak di luar perusahaan, meski untuk sementara waktu chip tersebut diprioritaskan memenuhi kebutuhan komputasi internal OpenAI yang terus tumbuh. Sinyal itu disampaikan langsung oleh VP Hardware OpenAI, Richard Ho, dalam wawancara dengan Tom’s Hardware setelah perusahaan memperkenalkan Jalapeño di ajang Hot Chips 2026.
Pernyataan tersebut menjawab pertanyaan yang muncul setelah OpenAI merilis chip inferensi kustomnya. Sebelumnya, OpenAI dan Broadcom mengungkapkan kemitraan untuk membangun ASIC bagi kebutuhan internal OpenAI. Namun di Hot Chips 2026, OpenAI justru memaparkan benchmark yang membandingkan Jalapeño dengan akselerator Blackwell milik Nvidia, sekaligus menegaskan peta jalan multi-generasi untuk chip tersebut.
Menurut Ho, Jalapeño memang dibangun untuk kebutuhan komputasi OpenAI. Meski begitu, ia menyatakan chip ini secara teknis bisa dipakai siapa saja. “Anda bisa menggunakannya untuk siapa pun, sejujurnya,” kata Ho, seraya membuka pintu bagi kemungkinan peluncuran yang lebih luas.
Kendati demikian, prioritas utama OpenAI saat ini adalah memastikan kebutuhan komputasi internal perusahaan terpenuhi lebih dulu. Ho menyebut permintaan komputasi di dalam perusahaan sangat besar dan terus bertumbuh, sehingga OpenAI akan sibuk memenuhi kebutuhan sendiri untuk waktu yang panjang. “Kami akan punya banyak pekerjaan hanya untuk menyediakan komputasi bagi OpenAI untuk waktu yang lama,” ujarnya.
Benchmark dan Posisi Kompetitif Jalapeño
Posisi kompetitif Jalapeño terutama terlihat dari benchmark yang dibagikan OpenAI selama Hot Chips. Pengujian tersebut dijalankan menggunakan benchmark InferenceX milik SemiAnalysis dan membandingkan Jalapeño dengan Nvidia GB200 dan GB300.
ASIC sebenarnya umum ditemui, tetapi performa kompetitif untuk perangkat jenis ini tidak lazim. Sebab, ASIC dirancang untuk mempercepat beban kerja tertentu. Melalui Jalapeño, OpenAI memperlihatkan chip tersebut mampu mempercepat model open-weight GPT-OSS miliknya, juga DeepSeek R1 dan Kimi K2.5.
Ho menegaskan, benchmark itu ditujukan untuk meluruskan anggapan keliru di industri bahwa chip inferensi kustom OpenAI hanya untuk model OpenAI. Menurutnya, tim engineer OpenAI berhasil menjalankan Kimi dan DeepSeek di Jalapeño hanya dalam dua bulan, yakni antara tahap sampel A0 dan presentasi di Hot Chips.
“Yang benar-benar ingin kami tunjukkan, untuk menghentikan anggapan keliru di industri bahwa chip inferensi kustom kami hanya untuk model OpenAI… Chip ini dapat diprogram, bersifat general purpose, dan tidak di-hardcode untuk model OpenAI,” jelas Ho.
Awalnya, OpenAI tidak berencana menampilkan benchmark di Hot Chips dan bahkan belum yakin akan hadir di acara tersebut. Namun setelah chip kembali dan terbukti bekerja dengan baik, tim memutuskan untuk mengejar tenggat presentasi yang tersisa sekitar dua bulan.
Efisiensi dan Strategi Pasokan
Salah satu alasan OpenAI enggan langsung masuk ke pasar perangkat keras eksternal adalah pasokan. Ho menyebut ada “baseline baru” untuk pasokan, merujuk pada dua tahun terakhir ketika ia dan CEO OpenAI Sam Altman berkeliling ke berbagai fab dan meminta kapasitas lebih besar.
Meski OpenAI mengklaim berada dalam posisi yang baik untuk pasokan internal, memasok kebutuhan pelanggan eksternal kemungkinan menjadi cerita yang berbeda. Jalapeño memang bisa bekerja untuk model lain, tetapi performa kompetitif mentah bukanlah tujuan utama desainnya.
Ketika ditanya soal pendorong utama di balik desain Jalapeño, Ho menjawab lugas: efisiensi. Ia menyebut efisiensi sebagai sepupu dari komputasi, mengingat pusat data AI modern yang dibatasi daya. Menurutnya, mesin inferensi yang lebih efisien merepresentasikan komputasi yang lebih efektif.
Ho juga menyinggung soal codesign dengan model internal OpenAI. Menurutnya, hal itu sulit dilakukan bersama merchant silikon pihak ketiga karena banyaknya riset IP di dalam model. “Anda tidak bisa membagikannya secara luas karena akan bocor. Informasi itu akan keluar tak peduli berapa banyak NDA yang Anda buat,” katanya.
Jika Jalapeño memang diarahkan untuk peluncuran yang lebih luas, chip ini tidak akan bersaing dengan platform Grace Blackwell milik Nvidia, melainkan dengan platform Vera Rubin yang lebih baru. Ho menyebut perbandingan dengan Blackwell dilakukan karena itu adalah hasil terpublikasi terbaik yang bisa ditemukan saat itu.
OpenAI sendiri telah menjalankan benchmark internal lain, baik terhadap Vera Rubin maupun untuk context window yang lebih besar. Benchmark InferenceX hanya melihat pengujian 8k1k, yang merepresentasikan 8.000 token input dan 1.000 token output tetap. Menurut Ho, benchmark internal OpenAI menunjukkan ASIC tersebut tampil bahkan lebih baik dibanding benchmark yang ada dari sejumlah perangkat lain yang tersedia.
Soal perbandingan dengan Vera Rubin, OpenAI mengaku hasilnya terlihat bagus. “Jelas, saat kami melakukan deployment, itu akan menjadi Vera Rubin, mungkin bahkan VR Ultra di sebagian jadwal deployment. Kami sudah melakukan pengujian internal, tapi kami tidak mempublikasikannya,” ujar Ho.
Ia menambahkan, pihak yang seharusnya mempublikasikan hasil tersebut adalah Nvidia dan pihak lain yang mampu melakukannya. OpenAI memilih tidak merilis data internal itu sendiri. Terkait kemampuan, Ho mengungkapkan bahwa speculative decode sudah diimplementasikan di perangkat keras Jalapeño. OpenAI tidak mem-benchmark fitur itu hanya karena tidak punya waktu melatih model draft yang diperlukan.
OpenAI menyebut multi-token prediction akan memberikan peningkatan performa 3-5x. Kemampuan itu disebut sudah “di kantong” dan akan diluncurkan pada model internal OpenAI. Fitur tersebut akan tersedia saat chip masuk ke tahap produksi.
Sejumlah perkembangan lain di ekosistem AI juga menjadi sorotan, termasuk langkah OpenAI Buktikan Navier-Stokes yang menunjukkan ambisi perusahaan di ranah riset. Di sisi lain, perhatian publik terhadap tata kelola AI turut menguat, misalnya melalui penyelidikan Australia Selidiki Agen terkait agen OpenAI yang dilaporkan membobol sebuah portal layanan kesehatan.
Untuk jadwal, Jalapeño akan mengalami ramp-up bertahap sepanjang sisa tahun ini. Volume yang sangat kecil akan disiapkan untuk memastikan semuanya bekerja dengan baik dan bisa diuji di lingkungan produksi. Ramp-up yang sesungguhnya baru akan terlihat pada 2027.
Soal peta jalan, Ho menegaskan bahwa pihaknya tidak menganut prinsip tape-out berdasarkan jadwal kalender. OpenAI ingin melakukan tape-out ketika perangkat yang dirancang memberi peningkatan signifikan, baik dari sisi performa per watt, performa mentah, maupun latensi. Sebagian besar hal itu bergantung pada kapan teknologi tersedia, entah itu generasi HBM yang dipakai, jenis SerDes, atau kemampuan menempatkan komunikasi optik lebih dekat ke silikon.
“Kami bisa melakukan eksekusi yang sangat cepat. Apakah kami akan melakukan eksekusi semacam itu secara beruntun? Saya ragu, karena teknologinya tidak akan siap untuk itu, dan saya tidak ingin melakukan tape-out untuk sesuatu yang hanya 2% lebih baik dari yang sebelumnya,” kata Ho.
Ia menekankan bahwa hal terpenting adalah membangun perangkat yang tepat. Cukup waktu harus dihabiskan untuk mengetahui perangkat terbaik berikutnya, lalu membangunnya dengan cepat. OpenAI tidak ingin terjebak pada rutinitas demi rutinitas semata, melainkan ingin membuat peningkatan bertahap pada setiap perangkat yang dihasilkan.
Dalam presentasinya, OpenAI juga memaparkan daftar tujuan sekaligus non-tujuan. Ho menyebut hal itu penting karena timnya berukuran kecil. Setiap hal yang dikerjakan harus berdampak tinggi, dengan dampak yang mengarah pada bintang utara perusahaan: menghadirkan lebih banyak kecerdasan dengan biaya lebih murah bagi pelanggan.
Jika sesuatu bisa disediakan oleh ekosistem dan OpenAI tidak bisa berbuat lebih baik, maka perusahaan memilih mengambil dari ekosistem. OpenAI akan selalu mengerjakan hal yang memanfaatkan keunggulan codesign dan pengetahuannya tentang arah perkembangan teknologi, lalu menggunakannya secara cerdas.
Soal minat industri, Ho mengaku sudah menjalin komunikasi dengan sejumlah pihak sebelum dan sesudah pengungkapan Jalapeño. Ia menyebut ada banyak minat terhadap alur desain yang dipakai OpenAI, bukan semata soal mendistribusikan chip Jalapeño ke banyak pihak. OpenAI menyatakan ingin membuat industri secara umum lebih produktif, karena komputasi yang lebih baik dari semua pihak juga menguntungkan perusahaan.
Komentar
Belum ada komentar.