Telset.id – Moonshot AI, perusahaan teknologi asal Beijing, resmi merilis Kimi K3, model kecerdasan buatan (AI) dengan 2,8 triliun parameter yang diklaim sebagai model open-weight terbesar di dunia saat ini. Peluncuran ini menandai lompatan signifikan dalam persaingan AI global, terutama di tengah keterbatasan akses China terhadap chip canggih akibat embargo AS.
Dalam technical blog-nya, Moonshot AI menyatakan bahwa Kimi K3 merupakan sistem terbuka kelas 3T pertama di dunia. Meskipun secara performa keseluruhan masih berada di bawah Claude Fable 5 milik Anthropic dan GPT 5.6 Sol milik OpenAI, model ini berhasil mengungguli semua model lain dalam evaluasi internal perusahaan, termasuk Claude Opus 4.8 dan GPT 5.5 di berbagai tolok ukur coding dan agentic.
Kimi K3 hadir dengan konteks jendela 1 juta token, kemampuan native vision, dan hanya mengaktifkan 16 dari 896 eksper per token, atau sekitar 1,8% dari total pool. Bobot penuh (full weights) model ini dijadwalkan akan dirilis pada 27 Juli mendatang.
Dalam pengujian buta oleh developer di Arena, K3 menempati peringkat pertama dalam evaluasi Frontend Code dengan skor 1.679 poin, mengalahkan Fable 5. Pencapaian ini merupakan lompatan 17 peringkat dari pendahulunya, Kimi K2.6, yang sebelumnya berada di peringkat 18.
Moonshot mengklaim peningkatan efisiensi scaling sekitar 2,5 kali lipat dibandingkan Kimi K2. Peningkatan ini dikaitkan dengan dua perubahan arsitektur utama: Kimi Delta Attention, skema perhatian linear hibrida, dan Attention Residuals, yang mengubah cara informasi bergerak antar lapisan. Pelatihan sadar kuantisasi dimulai pada tahap supervised fine-tuning, menggunakan bobot MXFP4 dan aktivasi MXFP8, kombinasi yang dipilih untuk kompatibilitas hardware yang luas.
Harga API Kimi K3 ditetapkan sebesar $0,30 per juta token input cache-hit, $3 per juta untuk cache miss, dan $15 per juta token output. Sebagai perbandingan, Kimi K2 yang dirilis setahun lalu dibanderol $0,60 per juta token input. Artinya, biaya input K3 yang tidak di-cache lima kali lebih mahal dari pendahulunya.
Analis Bank of America yang dipimpin oleh Alex Liu dalam catatan yang dikutip CNBC mengatakan bahwa K3 menunjukkan bahwa pre-training skala besar yang dikombinasikan dengan kerja arsitektur masih dapat memberikan peningkatan signifikan bagi model flagship China, meskipun ada keterbatasan komputasi.
Pengoptimalan kernel Moonshot dijalankan pada Nvidia H200, dan apa yang diidentifikasi blog sebagai “GPGPU dari vendor alternatif,” yang tidak disebutkan namanya. MiniTriton, compiler mirip Triton yang dibuat K3 dari awal, diuji pada Nvidia L20, kartu berbasis Ada yang dijual ke China berdasarkan aturan ekspor AS. Moonshot merekomendasikan untuk menjalankan K3 pada supernode dengan 64 atau lebih akselerator, menjaga lalu lintas expert-parallel di dalam satu domain bandwidth tinggi.
Dalam salah satu studi kasus, K3 menghabiskan satu sesi otonom selama 48 jam untuk merancang chip inferensi simulasi untuk model nano yang dibangun pada arsitekturnya sendiri, menggunakan alat EDA open-source dan pustaka Nangate 45nm. Desain tersebut mencapai timing pada 100 MHz dalam area 4mm persegi, dengan 1,46 juta sel standar dan array MAC INT4, serta mempertahankan lebih dari 8.700 token per detik dalam decode simulasi.
Perlu dicatat bahwa saat ini, semua angka K3 yang dipublikasikan masih merupakan klaim yang dibuat oleh Moonshot dan belum dapat diverifikasi hingga bobot model dirilis pada 27 Juli. Anthropic sebelumnya menuduh Moonshot pada Februari lalu menggunakan 3,4 juta pertukaran Claude untuk melatih modelnya melalui distilasi. Kini, K3 berada dalam jarak beberapa poin dari model yang disebutkan dalam keluhan tersebut.
Peluncuran Kimi K3 ini menjadi bukti bahwa pengembangan AI di China terus berakselerasi meskipun menghadapi berbagai hambatan. Keberhasilan Moonshot menunjukkan bahwa inovasi arsitektur dan efisiensi komputasi dapat menjadi kunci untuk bersaing di level global.
Komentar
Belum ada komentar.