TypeSafe AI Rilis Jev, Model Tanpa Bahasa yang Lebih Murah dari LLM

Telset.id – Mantan peneliti OpenAI, Diogo Almeida, resmi merilis Jev melalui startup-nya, TypeSafe AI. Model transformer terbaru ini bukanlah large language model (LLM) karena tidak menghasilkan teks, melainkan probabilitas yang disebut perusahaan sebagai “calibrated decisions”. Langkah ini menjadi jawaban atas kekecewaan Almeida terhadap teknologi yang ia bantu bangun di OpenAI, yang menurutnya sudah sangat mahir dalam bahasa manusia tetapi tidak berguna untuk otomasi karena komputer berbicara dalam bahasa yang berbeda.

Almeida adalah sosok di balik reinforcement learning from human feedback (RLHF), teknik pelatihan model yang dianggap paling bertanggung jawab atas era AI saat ini. Meski demikian, ia menilai hasilnya belum sesuai harapan. “Kami memiliki lightning in a bottle, namun itu tidak berguna,” ujar Almeida kepada TechCrunch. Ia lalu menyimpulkan bahwa akar masalahnya adalah optimasi untuk bahasa manusia. “Kami sudah sangat bagus dalam bahasa manusia selama empat tahun, tetapi itu tidak berguna untuk otomasi karena komputer berbicara dalam bahasa yang berbeda.” Dua tahun lalu, Almeida meninggalkan OpenAI dan mendirikan TypeSafe AI untuk memperbaiki masalah tersebut.

Model Jev hadir dengan pendekatan yang berbeda dari LLM pada umumnya. Karena tidak mengandalkan bahasa, model ini menjadi sangat murah dan cepat. Output tokennya gratis, sementara input token diukur per miliar, bukan per juta. Selain itu, karena pengguna menentukan output di muka, model ini tidak dapat berhalusinasi. Perbandingan antara Jev dan model OpenAI dalam merespons permintaan yang sama pun ditampilkan dalam sebuah tangkapan layar yang dipublikasikan TypeSafe.

Antusiasme pengembang terhadap produk ini cukup tinggi. TypeSafe sempat kehilangan kemampuan melayani pengguna dari API-nya karena lonjakan permintaan yang besar. Jev dinilai paling berguna untuk otomasi perangkat lunak. Sejauh ini, pengembang perangkat lunak melihatnya sebagai cara yang lebih murah dan lebih andal untuk menyematkan kecerdasan ke dalam kode mereka.

Salah satu contohnya datang dari Pranit Sharma, software engineer di Vercel, perusahaan yang membangun infrastruktur agentic. Sharma menyebut perusahaannya pernah menggunakan ChatGPT Luna 5.6 dari OpenAI untuk menjalankan classifier guna meninjau keamanan perintah. Ketika Vercel mengganti Luna dengan Jev, hasilnya diperoleh 5 hingga 18 kali lebih cepat dan dengan akurasi yang lebih tinggi.

Pengembang lain, CTO Bryo AI, Nikhil Mudholkar, menguji Jev melawan Gemini untuk mengklasifikasikan email bisnis. Dalam pengujiannya, Gemini sedikit lebih akurat tetapi 10 hingga 20 kali lebih mahal. Yang lebih menarik bagi Mudholkar adalah confidence score dari Jev. “Ini satu-satunya yang mengembalikan probabilitas nyata, yang membuatnya ideal untuk mengotomatiskan alur kerja!!” ujarnya.

Selain menggantikan LLM pada kasus penggunaan tertentu, model baru ini juga dapat melengkapi LLM dengan bertindak sebagai pemeriksa cerdas terhadap perilaku menyimpang. Menggunakan agen untuk memantau agen bisa cepat menjadi mahal, tetapi menggunakan Jev untuk hal itu dinilai masuk akal oleh Almeida. Ia melihat pengguna akan menerapkan Jev untuk melacak jejak agen LLM dan mencegah jailbreak.

“Pada akhirnya, ini mendelegasikan masalah halusinasi sedikit kepada pengguna,” jelas Armin Ronacher, CTO Earendil, perusahaan yang membangun harness model open-source Pi. “Pengguna harus berkata, oke, jika ini hanya kembali dengan probabilitas 50%, mungkin ini lempar koin, dan saya mengabaikannya. Tetapi jika 95%, tentu, maka saya bisa melakukan sesuatu dengannya.”

Potensi penggunaan lain dari Jev adalah model routing, menurut Ronacher. Memprediksi apakah suatu beban kerja memerlukan model tertentu akan berguna, tetapi menggunakan LLM untuk pekerjaan itu akan mahal. Biaya dan kecepatan Jev yang rendah membuat penyortiran real-time semacam itu menjadi mungkin.

Itulah harapan Almeida. Model ini dinamai berdasarkan William Stanley Jevons, ekonom abad ke-19 yang paradox eponymous-nya menggambarkan bagaimana penurunan biaya suatu komoditas dapat membuatnya semakin banyak digunakan. Dalam kasus ini, penurunan biaya kecerdasan seharusnya mengarah pada penyebarannya yang luas. “Kami pikir akan ada perangkat lunak cerdas di mana-mana dengan cara yang emergent dan terdistribusi… jauh lebih mirip internet awal daripada mega apps yang coba dibangun orang-orang saat ini,” kata Almeida.

Almeida masih berhati-hati membicarakan arsitektur modelnya, yang oleh pengamat luar diduga dibangun di atas LLM open-weight. Perusahaan menyebut Jev sebagai “System One model”, yang berfokus pada intuisi alih-alih penalaran, dan secara spesifik berfokus pada tugas yang tepat. Almeida menyatakan Jev dilatih secara eksklusif menggunakan data sintetis dengan teknik yang ia sebut “reinforcement learning from calibrated decisions”.

“Kami membuat taruhan awal bahwa kami akan memproduksi semua data kami, dan itu menjadi salah satu taruhan terbaik yang pernah saya buat dalam hidup saya—lebih baik dari peluncuran kami, menurut saya, lebih baik dari RLHF,” ujarnya kepada TechCrunch. “Separuh dari perusahaan kami adalah lab yang pada dasarnya memiliki seluruh subbidang data sintetis yang dipahami secara statistik ini, dan itu sekarang menjadi kegembiraan hidup saya.”

Untuk saat ini, Jev berdiri sendiri sebagai model jenis ini, tetapi Ronacher memperkirakan kompetitor akan bermunculan setelah kegunaannya terlihat jelas. “Kita seharusnya melihat ini lebih awal dalam banyak hal, tetapi mungkin karena LLM begitu murah dan disubsidi, Anda sering tidak perlu kreatif dulu,” katanya.

TypeSafe sendiri akan membangun lebih banyak versi model ini dalam modalitas baru. Ketika ditanya apakah TypeSafe adalah frontier lab, Almeida menjawab, “produk utama Frontier Labs adalah rasa takut atau hype. Saya ingin produk utama kami adalah kecerdasan… [tetapi kami] bukan lab dalam pengertian, Anda tahu, seperti bertaruh pada kekayaan tak terbatas, atau agama, atau membangun Tuhan di pusat data, atau apa pun yang menjadi tren hari ini.”

Perkembangan ini menunjukkan bahwa pendekatan non-linguistik dalam pelatihan model mulai mendapat tempat di kalangan pengembang. Jika adopsi terus berlanjut, Jev dan model sejenis berpotensi mengubah cara perangkat lunak dibangun, terutama untuk kebutuhan otomasi yang menuntut kecepatan dan biaya rendah tanpa mengorbankan akurasi.