Jailbreak & injeksi tidak langsung
Tangkap upaya menjebol system prompt Anda, serta instruksi berbahaya yang diselundupkan lewat hasil tool dan konten yang diambil.
Dua guardrail sadar-konteks
Di luar pemeriksaan injeksi input pada prompt pengguna, Anoman menyertakan dua guardrail terkait yang mengawasi serangan yang lebih halus. Masing-masing adalah mode per-policy-group.
jailbreak_detection_mode— mendeteksi upaya jailbreak dan gaya DAN untuk menimpa system prompt atau kebijakan ("abaikan semua instruksi sebelumnya", pelarian roleplay, probe kebocoran prompt).indirect_injection_mode— mendeteksi injeksi prompt TIDAK LANGSUNG: instruksi berbahaya yang datang bukan dari pesan langsung pengguna melainkan lewat hasil tool, dokumen yang diambil, atau konten tak tepercaya lain yang dibaca model di tengah tugas.
Berbeda dari pemeriksaan injeksi input
Pemilik atau admin akun dapat mengaktifkan pemblokiran injection di Pengaturan.
Ini BUKAN pemeriksaan injeksi input. Pemeriksaan itu tidak bisa dimatikan per kunci; secara default memberi skor dan mencatat prompt injection, dan dengan pemblokiran injection aktif, sekumpulan kecil signature serangan yang sudah ditetapkan mengembalikan 403 — lihat ikhtisar guardrails. Deteksi jailbreak dan injeksi tidak langsung adalah lapisan terpisah yang dapat dikonfigurasi dan default-nya monitor sehingga Anda mengamati upaya sebelum menegakkan.
Kenapa default monitor? Trafik nyata mengandung frasa jinak yang tampak adversarial. Mengamati tingkat potensi picu pada trafik Anda sendiri dulu memungkinkan peningkatan ke block dengan percaya diri, bukan mengejutkan pengguna sah.
off / monitor / block
Kedua guardrail berbagi tiga mode yang sama, dengan default monitor. Setel secara terpisah per policy group.
| Mode | Perilaku |
|---|---|
off | Tanpa deteksi. Guardrail dilewati. |
monitor (Default) | Deteksi dan CATAT saja — tidak pernah memblokir. Upaya direkam ke Security Activity sehingga Anda bisa mengukur tingkatnya sebelum menegakkan. Ini adalah default. |
block | Kembalikan HTTP 403 pada upaya yang terdeteksi. Permintaan tidak pernah dirutekan ke penyedia. |
Konfigurasi
Di mana upaya direkam
Konfigurasi kedua mode per policy group di /dashboard/guardrails. Deteksi — termasuk yang dipantau tanpa memblokir — muncul di dashboard Security Activity pada /dashboard/security-activity, sehingga Anda bisa meninjau upaya nyata sebelum mengubah guardrail ke block.
Terkait: output DLP untuk memindai respons, dan policy group untuk cara konfigurasi per-grup dan override per-kunci berinteraksi.
Awasi jailbreak
Kedua detektor sudah memantau — tingkatkan ke block saat sinyalnya bersih.