Kolaborasi JEV dan LLM: Strategi Arsitektur AI Dua Lapis untuk Operasi Digital

gambar : miro.medium.com

JEV merupakan kelas model AI baru bernama System One Model yang dikembangkan oleh TypeSafe AI di bawah pimpinan Diogo Almeida, mantan peneliti OpenAI yang sebelumnya turut membidani lahirnya ChatGPT. Nama "System One" terinspirasi dari teori psikologi Daniel Kahneman dalam bukunya Thinking, Fast and Slow, yang merujuk pada mode berpikir manusia yang cepat, intuitif, dan otomatis. Berbeda secara mendasar dari model bahasa besar (LLM) generatif seperti GPT atau Claude yang memproses dan menghasilkan teks kata per kata, JEV dirancang khusus sebagai mesin pembuat keputusan (judgment engine) dan pengklasifikasi data. Model ini menerima masukan berupa data tidak terstruktur (state) beserta pertanyaan bertipe, kemudian mengembalikan keputusan terstruktur bernilai pasti (type-safe) tanpa kemampuan menghasilkan teks bebas (string generation), sehingga secara arsitektural terbebas dari risiko halusinasi teks.

Dalam memproses data dan mengevaluasi keputusan, JEV mengandalkan tiga primitif pertanyaan bertipe dasar, yaitu `Noul`, `Choice`, dan `Score`. Primitif `Noul` digunakan untuk menjawab pertanyaan biner (ya atau tidak) dengan mengembalikan nilai probabilitas matematis antara 0 hingga 1. Primitif `Choice` memungkinkan sistem memilih satu opsi terbaik dari daftar pilihan tertutup yang ditentukan oleh pengguna hingga sebanyak 255 opsi lengkap dengan sebaran peluangnya. Sementara itu, primitif `Score` memberikan nilai numerik berbobot peluang pada skala atau rubrik bertingkat mulai dari 2 hingga 10 tingkat. Seluruh pertanyaan bertipe ini dievaluasi secara serentak menggunakan metode pemrosesan sejajar (parallel sampling) dalam satu kali pemanggilan (single query), sehingga menghemat biaya state dan memangkas waktu eksekusi secara drastis.

Dari segi performa teknis dan efisiensi biaya, JEV mencatatkan kecepatan luar biasa dengan waktu respon antara 70 hingga 500 milidetik, atau sekitar 20x hingga 200x lebih cepat dibandingkan LLM konvensional. Skema pembiayaannya sangat hemat karena pengguna hanya ditagih untuk token masuk (input token) sebesar 0,042 USD per 1 juta token, sementara token keluar (output token) berstatus gratis karena ukurannya yang kecil dan tetap. Selain mengembalikan hasil keputusan, JEV secara konsisten menyertakan indikator keyakinan (confidence score) pada setiap keluarannya. Kehadiran indikator keyakinan ini memungkinkan penerapan arsitektur confidence-gated routing, di mana keputusan berkeyakinan tinggi (misalnya ≥ 80%) dapat dieksekusi secara otomatis oleh aplikasi, sedangkan keputusan berkeyakinan rendah dialihkan ke peninjauan staf manusia atau diteruskan ke LLM generatif.

Dalam operasional perusahaan, JEV umumnya ditempatkan sebagai saringan garis depan (front-end filter) maupun penjaga alur kerja untuk menekan biaya dan meningkatkan kecepatan. Pada pengelolaan chatbot bisnis (seperti WhatsApp atau CRM), JEV memilah pesan yang masuk dan langsung menyaring pesan non-esensial seperti stiker, emoji, atau ucapan "terima kasih" tanpa perlu memanggil LLM generatif yang mahal, sehingga mampu memangkas biaya operasional hingga puluhan kali lipat. Selain itu, JEV dimanfaatkan untuk melakukan audit ratusan percakapan CRM dalam hitungan detik, menyaring resume pelamar kerja secara otomatis, melakukan triase lead, serta memoderasi konten dan mendeteksi transaksi mencurigakan (fraud) secara real-time. JEV juga bertindak sebagai penjaga (guardrail) untuk menguji klaim sebelum balasan AI keluar, serta menjadi pemeringkat ulang (re-ranking) pada hasil pencarian dan dokumen RAG.

Secara keseluruhan, JEV dihadirkan bukan untuk menggantikan LLM generatif, melainkan untuk melengkapi dan bekerja berdampingan dalam arsitektur AI yang terspesialisasi. Model ini memiliki batasan teknis seperti tidak dapat menyusun narasi, menulis kode, melakukan aritmatika matematika, maupun membandingkan tanggal secara langsung. Pengambilan keputusan JEV tidak membutuhkan data latih khusus (training data), melainkan sangat bergantung pada kejelasan rubrik tertulis dan kriteria yang dirumuskan oleh tim bisnis. Dengan menyerahkan logika keputusan cepat kepada JEV dan menyimpan tugas pembuatan kalimat untuk LLM, perusahaan dapat membangun otomatisasi alur kerja digital yang jauh lebih efisien, aman, serta dapat diandalkan.