Telset.id – TypeSafe AI resmi merilis Jev, model “System One” pertamanya yang diklaim mampu berjalan hingga 194x lebih cepat dan 445x lebih murah dibanding model frontier seperti GPT-6 Astra. Model ini tidak dirancang untuk mengobrol seperti LLM konvensional, melainkan khusus untuk evaluasi pernyataan dan pengambilan keputusan dalam konteks pemrograman.
Jev merupakan hasil kerja Diogo Almeida, mantan engineer OpenAI yang turut menulis teknik pelatihan inti ChatGPT. Menurut perhitungan TypeSafe AI, efisiensi Jev membuat rasio intelligence-per-dollar-nya disebut “off the charts”, meski efektivitasnya di lapangan masih perlu dibuktikan melalui penggunaan praktis. Langkah ini melengkapi rangkaian inovasi yang sebelumnya dibahas dalam laporan tentang TypeSafe AI Rilis Jev.
Perbedaan mendasar Jev terletak pada cara kerjanya. Model ini dilatih menggunakan Reinforcement Learning for Calibrated Decisions (RLCD) dan diarahkan untuk menghasilkan jawaban terstruktur alih-alih prosa. Karena tidak memerlukan konteks sebelumnya, pertanyaan individual dalam satu permintaan yang sama dapat diproses secara paralel, berbeda dengan LLM yang menghasilkan teks secara berurutan.
Cara Kerja Jev dan Antarmuka API
Saat Anda melakukan query ke LLM biasa, Anda akan mendapatkan percakapan teks terbuka. Jev hanya menghasilkan jawaban atas pertanyaan spesifik, semuanya disertai dengan faktor keyakinan atau confidence factor. Model ini dibuat untuk digunakan oleh kode dan mesin.
Kode Anda berinteraksi dengan API Jev dengan memberikan sebuah state, yaitu situasi tertentu beserta data yang terkait, lalu meminta Jev menilai pernyataan spesifik. State diberikan pada setiap permintaan individual, dan tidak ada basis pengetahuan global maupun memori yang disimpan. Sebagai contoh, sebuah perusahaan dapat menunjukkan daftar transaksi kartu kredit pelanggan, info dasar akun, pesan terakhir pelanggan, dan mengajukan pertanyaan “Apakah pelanggan meminta refund?” Jawabannya akan berupa ya atau tidak, dengan rating keyakinan.
Jika keyakinan berada di atas, misalnya 85 persen, Anda dapat melanjutkan bertanya kepada pelanggan metode mana yang mereka pilih, dengan pilihan ganda “refund”, “store credit”, atau “unclear”. Jev kemudian menawarkan distribusi probabilitas untuk setiap opsi refund. Kode Anda dapat memproses refund atau meminta klarifikasi lebih lanjut.
Output Jev, dan opsional input-nya, berada dalam format data yang telah ditentukan yang pada dasarnya adalah JSON biasa. Berbeda dengan berinteraksi dengan LLM, tidak ada kata berlebihan, pemikiran bertele-tele, atau kebutuhan untuk meminta model bersikap ringkas. Tidak ada pula kebutuhan akan prompt kontekstual global atau memori tersimpan, yang sering diperlukan untuk membujuk LLM agar berperilaku minimal deterministik.
Selain menyediakan state dan pertanyaan, operasi seperti parsing input, penanganan tanggal, atau pembacaan database tetap berada di kode Anda sendiri dan tidak menjadi urusan Jev. Sekilas, ini mungkin terlihat seperti antarmuka yang lebih sederhana ke sebuah LLM, tetapi fundamentalnya berbeda. Jev tidak membutuhkan atau bahkan menginginkan seluruh konteks yang mengarah ke pertanyaan. Memberikan informasi berlebihan justru menurunkan akurasi, dan context window-nya dibatasi hanya 64.000 token.
Baca Juga:
Karena bot selalu menghasilkan persentase keyakinan, Jev tidak berhalusinasi dalam pengertian chatbot yang familiar, yaitu menciptakan pernyataan dan data dari ketiadaan. Pengembang, bukan Jev, bertanggung jawab membuat keputusan berdasarkan faktor keyakinan dari jawaban tersebut. Jev masih dapat salah mengklasifikasikan informasi, menjadi korban serangan adversarial, atau menjawab berdasarkan makna literal alih-alih maksud sebenarnya.
Use Case dan Posisi Jev di Ekosistem AI
Use case paling umum untuk Jev, dan mungkin model System One mendatang, diperkirakan adalah membungkus alur kerja logika di sekitar pertanyaan yang diposting. Ketersediaan faktor keyakinan memudahkan integrasi ke dalam langkah keputusan, misalnya “jika kita cukup yakin pengguna meminta refund, dan mereka memilih store credit, dan kita bisa melihat mereka membeli lebih banyak perangkat PC sekitar September, tawarkan juga diskon 20 persen untuk RTX 5090.”
Dokumentasi Jev memuat contoh penggunaan lain seperti intent routing atau citation checking. Kekuatan Jev bukan pada bertindak seperti agen atau menalar masalah luas. TypeSafe AI menegaskan bahwa tugas terbuka lebih cocok untuk LLM, yang mungkin bahkan diintegrasikan ke dalam kode yang juga melibatkan Jev. Contohnya adalah sistem monitoring di mana Jev dapat menggunakan informasi yang diberikan untuk menilai apakah ada masalah sistem serius, dan jika demikian, memanggil LLM untuk memeriksa log, mencari penyebab, dan menghasilkan laporan.
Jev tidak dilatih menggunakan data pelanggan dan tidak membuat inferensi dari mana pun selain state yang diberikan dan pelatihannya sendiri. Pendekatan ini sejalan dengan tren industri yang tengah menghadapi tekanan efisiensi, seperti tercermin dalam diskusi tentang Aplikasi Safety Coach yang juga menekankan penghematan biaya.
Dari sudut pandang pengembang, jika Jev bekerja sesuai janjinya, model ini berpotensi mengatasi salah satu hambatan utama integrasi AI mendalam ke dalam perangkat lunak. Selama ini, berurusan dengan chatbot LLM yang bersifat amorf dan sulit diprediksi, lambat, serta mahal menjadi kendala praktis. Kehadiran antarmuka penilaian, respons, dan keyakinan yang sederhana dan dapat diintegrasikan dengan bersih ke dalam kode tanpa memerlukan pelatihan khusus atau rangkaian teks yang dirancang hati-hati terasa jauh lebih natural dan mudah digunakan.
Kehadiran Jev menambah dinamika persaingan di pasar AI yang semakin ketat, di mana sejumlah perusahaan berlomba menekan harga token dan menghadirkan model kompetitif. Inovasi seperti ini juga relevan bagi pengguna yang memantau perkembangan teknologi otomotif, misalnya melalui pembahasan Volvo XC60 dan XC90 PHEV yang menunjukkan bagaimana efisiensi menjadi faktor penentu adopsi teknologi.
TypeSafe AI menempatkan Jev bukan sebagai pengganti LLM, melainkan sebagai pelengkap yang menangani tugas evaluasi terstruktur dengan kecepatan dan biaya yang jauh lebih efisien. Keputusan akhir tetap berada di tangan pengembang, yang bertanggung jawab menafsirkan tingkat keyakinan dan menentukan langkah selanjutnya dalam alur kerja perangkat lunak mereka.
Komentar
Belum ada komentar.