Lapisan keputusan terjaga untuk agen AI
Agen Anda terus-menerus membuat keputusan — rutekan ini, tandai itu, apakah ini berisiko. Decision Models mengubah keputusan itu menjadi keputusan bertipe, terkalibrasi, dan dapat diaudit, ditenagai JEV dan berjalan lewat gerbang Anoman terjaga yang sama seperti setiap panggilan chat.
Masalahnya
Keputusan kabur, dipaksakan lewat model chat
Sebagian besar pipeline agen membuat puluhan keputusan kecil per permintaan — tim mana yang harus menangani tiket ini, apakah konten ini berisiko, apakah tool call ini boleh berjalan tanpa manusia. Alat default untuk itu adalah chat completion: LLM yang menghasilkan teks bebas yang harus di-parse oleh kode Anda, berharap tetap sesuai skema, lalu di-prompt ulang saat tidak sesuai. Lambat, tidak terstruktur, dan model yang bisa mengatakan apa saja juga bisa mengatakan hal yang salah di luar bentuk yang Anda minta.
Apa ini
Pertanyaan bertipe masuk, jawaban terkalibrasi keluar
Sebuah panggilan Decision Models mengambil state — hal yang dinilai — dan sekumpulan questions bertipe, lalu mengembalikan jawaban bertipe untuk masing-masing dengan probabilitas terkalibrasi. Tidak ada teks bebas yang dihasilkan sama sekali, jadi tidak ada yang bisa dikarang model di luar skema yang Anda tentukan.
noulYa / tidak
Keputusan biner dengan probabilitas terkalibrasi — apakah ini mendesak, apakah ini spam, apakah perlu ditinjau.
choiceKlasifikasikan
Pilih satu label dari kumpulan tetap yang Anda tentukan — rutekan tiket, kategorikan konten — dengan skor keyakinan per opsi.
scoreBeri nilai
Penilaian bertingkat pada skala yang Anda tentukan — nada, tingkat keparahan, kualitas — dengan distribusi probabilitas penuh di setiap tingkat.
Ditagih hanya dari input token — output gratis — dan panggilan biasanya selesai jauh di bawah satu detik.
Kasus penggunaan
Di mana keputusan bertipe menggantikan panggilan chat
Routing tiket & intent
Klasifikasikan pesan masuk ke tim atau cabang alur kerja — sebelum manusia, atau model yang mahal, sempat melihatnya.
Klasifikasi konten & tingkat keparahan
Tandai konten berisiko, sensitif, atau relevan kebijakan dengan skor terkalibrasi, bukan tebakan.
Menilai output LLM itu sendiri
Nilai kualitas, nada, atau groundedness sebuah chat completion sebelum sampai ke pengguna — juri murah di depan generator yang mahal.
Risk-gating tool-call agen
Putuskan apakah sebuah tool call boleh berjalan otomatis, atau perlu manusia di dalam alurnya.
Terjaga, dengan jujur
Apa yang sebenarnya terjadi pada data Anda
Hanya state yang disamarkan. PII yang terdeteksi di state disamarkan sebelum meninggalkan Anoman. questions dan instructions Anda dikirim ke JEV persis seperti ditulis dan tidak dipindai atau disamarkan — jangan letakkan rahasia atau identitas sensitif di teks pertanyaan Anda.
Perutean ke AS. Berbeda dari sisa gerbang Anoman (satu wilayah, Jakarta), Decision Models merutekan permintaan Anda ke API JEV di Amerika Serikat. Jika konten Anda wajib tetap di dalam wilayah, jangan kirim ke endpoint ini.
Penilaian injeksi hanya untuk pemantauan. Seorang juri secara sah harus bisa menilai teks adversarial atau berbentuk serangan sebagai bagian dari tugasnya — jadi injeksi prompt pada state dinilai dan dicatat, tapi endpoint ini tidak pernah memblokir karenanya.
Keputusan bersifat probabilistik. Setiap jawaban adalah probabilitas terkalibrasi, bukan kepastian. Tinjau keputusan penting sebelum menindaklanjutinya, terutama saat keyakinan yang dikembalikan rendah.
Berikan agen Anda lapisan keputusan bertipe
Baca referensi API lengkap, atau mulai panggil dengan trafik Anda sendiri — API key yang sudah Anda pakai untuk chat completions juga berlaku di sini.