anoman
Beranda Dokumentasi

Guardrails

Pengecekan pre-call berjalan pada setiap request, pengecekan post-call berjalan pada respons, dan prompt injection diberi skor saat kapasitas tersedia. Request yang diblokir mengembalikan 403 — tidak pernah diantrekan, tidak pernah ditagih.

Guardrails selalu berjalan sebelum routing

Pipeline guardrail berjalan sebelum keputusan routing apa pun. Request yang gagal pada pengecekan pre-call mengembalikan 403 seketika — tidak pernah mencapai LLM dan tidak pernah ditagih.

Cek auth + rate limit
→ [PRE-CALL GUARDRAILS]
    1. Pemeriksaan prompt injection (signature, skor ML)
    2. Deteksi PII
    3. Moderasi konten (daftar kata kunci)
    4. Cek policy tool-call (allowlist/denylist)
    ↳ diblokir? Kembalikan 403. Request tidak pernah mencapai LLM. Tidak pernah ditagih.
      (Policy tool-call hanya memblokir pada mode Block; pada Monitor, default-nya,
       request tetap lolos dan temuannya dicatat di Security Events.)
Cek response cache (opt-in) → Routing → LLM call
→ [POST-CALL GUARDRAILS]
    5. Filter konten response
    6. Pemindaian PII response
Token metering → Response ke klien

Empat lapisan pre-call

Prompt Injection

Secara default, prompt injection diberi skor saat kapasitas tersedia dan dicatat, tidak diblokir. Pemilik atau admin akun dapat mengaktifkan pemblokiran injection di Pengaturan. Classifier ML juga memberi skor pada prompt. Deteksi ini tidak bisa dimatikan per kunci dan tidak menangkap semua serangan, jadi atur juga aturan tool dan batas sesi untuk agent.

Masking PII

Engine deteksi PII. Entitas default: EMAIL, CREDIT_CARD, SG NRIC, ID NIK, MY MyKad, TH National ID. Opt-in: PHONE, IP_ADDRESS, URL. Empat mode: redact, tokenize, synthetic, block.

Moderasi Konten

Filter berbasis keyword. English + Bahasa Indonesia. Latensi ~5ms. Dapat dikonfigurasi per policy group.

Conversational Guardrails

Konfigurasi YAML + aturan alur per policy group. Penegakan alur percakapan — memblokir topic steering, jailbreak, pengungkapan system-prompt.

Empat cara menangani PII yang terdeteksi

Setel pii_mode per API key atau policy group. Default-nya adalah redact.

redact (default)

// Input: "My email is [email protected]"
// Output: "My email is [REDACTED]"
 
// API key setting:
{ "pii_mode": "redact" }

tokenize

// Input: "My email is [email protected]"
// Output: "My email is <PII:EMAIL:tok_a1b2c3>"
 
// De-anonymized in the LLM response automatically.
// Reversible — original value recoverable via PIITokenMap.
{ "pii_mode": "tokenize" }

synthetic

// Input: "My email is [email protected]"
// Output: "My email is [email protected]"
 
// Generated substitute — realistic-looking, non-reversible.
{ "pii_mode": "synthetic" }

block

// Any detected PII → 403 Forbidden immediately.
// Request never reaches the LLM.
{ "pii_mode": "block" }

Lihat Proteksi PII untuk referensi mode lengkap.

Override default guardrail per API key

Kolom guardrail_overrides JSONB pada sebuah kunci API bisa melewati guardrail secara selektif, terlepas dari policy group-nya. Hanya PII dan moderasi konten yang bisa di-override per kunci; pemeriksaan injeksi tidak bisa.

// PATCH /anoman/v1/keys/{id}
{
  "guardrail_overrides": {
    "piiEnabled": true,
    "contentModerationEnabled": false
  }
}
 
// Priority stack (highest → lowest):
// 1. System forced (ops emergency)
// 2. Per-key guardrail_overrides
// 3. Policy group defaults
// 4. System defaults

Penegakan alur percakapan

Konfigurasikan lewat tab Guardrails di dashboard. Konfigurasi YAML + aturan alur disimpan per policy group dan di-cache berdasarkan config hash untuk performa.

# Policy group conversational-guardrail config
models:
  - type: main
    engine: openai
    model: gpt-4o
 
rails:
  input:
    flows:
      - self check input
  output:
    flows:
      - self check output
define flow self check input
  $allowed = execute self_check_input
  if not $allowed
    bot refuse to respond

define bot refuse to respond
  "I'm not able to respond to that."

Ikhtisar lengkap guardrails: Platform / Guardrails →

Amankan setiap panggilan AI dengan guardrails

Guardrails berjalan pada setiap request — real-time dan batch — sebelum model pernah dipanggil.

On this page