anoman
Observability

Trace & catatan permintaan

Setiap panggilan melalui gateway menjadi catatan yang bisa diperiksa — token, biaya, latensi, provider, hasil guardrail, cache, dan routing. Baca di dasbor atau tarik lewat API.

Catatan

Yang dibawa setiap catatan permintaan

Setiap permintaan disimpan sebagai catatan trace/permintaan yang bisa dibuka di dasbor (Observability → Requests) atau diambil dari API. Satu catatan mencakup:

FieldDeskripsi
model, provider, provider_typeID model, brand provider asli, dan provider_type (cloud_direct, bedrock, self_hosted…).
tokens_in / tokens_out / cached_tokensJumlah token masukan, keluaran, dan ter-cache — selalu dari usage provider, bukan estimasi lokal.
cost_usd, latency_ms, finish_reasonBiaya dalam USD, latensi wall-clock dalam milidetik, dan alasan penyelesaian (finish reason).
cache_hit, routing_mode, regionApakah cache tercapai, mode routing (realtime / batch / cached), dan region pemrosesan.
session_id, guardrailsID sesi tempat panggilan itu berada dan seluruh kumpulan hasil guardrail (injeksi / PII / konten / kebijakan).

Biaya ditampilkan dalam mata uang tampilan akun Anda; biaya per-permintaan di bawah satu sen ditampilkan sebagai "< $0.01" dengan nilai tepat saat kursor diarahkan.

Telemetri tanpa biaya

Amati per-panggilan tanpa permintaan kedua

Telemetri yang sama menumpang pada setiap respons completion sebagai blok _anoman ditambah header transparansi X-Anoman-* — sehingga Anda bisa mengamati setiap panggilan secara inline, tanpa permintaan API tambahan.

{
  "choices": [ ... ],
  "usage": { "prompt_tokens": 1024, "completion_tokens": 256 },
  "_anoman": {
    "guardrails": {
      "injection": { "status": "pass", "score": 0.12 },
      "pii": { "status": "pass" },
      "content": { "status": "pass" },
      "policy": { "status": "pass" }
    },
    "routing": { "mode": "realtime", "region": "id", "provider_type": "cloud_direct" },
    "cache": { "hit": false, "type": "none" },
    "weighted_tokens": 1240,
    "cost_usd": "0.0023"
  }
}

Respons streaming membawa blok yang sama dalam event meta terakhir sebelum stream ditutup — lihat Streaming untuk format datanya.

API Traces

Menampilkan dan memeriksa catatan

Gunakan GET /anoman/v1/traces untuk menampilkan catatan (saring berdasarkan model, region, atau agen) dan GET /anoman/v1/traces/{id} untuk satu catatan beserta timeline span-nya.

# List recent request records (filter by model / status / session)
curl "https://api.anoman.io/anoman/v1/traces?model=claude-sonnet-4-20250514&region=id&limit=20" \
  -H "Authorization: Bearer anm-sk-..."

Sesi

Kelompokkan permintaan menjadi sesi agen

Permintaan yang berbagi session_id (dan agent_id) dikelompokkan menjadi sesi. Tampilkan daftar sesi, buka satu untuk detail, atau tarik aksinya untuk melihat timeline tool-call dan pemeriksaan guardrail dalam sesi itu.

# List agent sessions (group requests by session_id / agent_id)
curl "https://api.anoman.io/anoman/v1/sessions?agent_id=support-bot-v2&status=active" \
  -H "Authorization: Bearer anm-sk-..."

Retensi

Di mana datanya disimpan

Catatan didukung oleh tabel ClickHouse llm_requests dengan retensi 365 hari. Catatan lama kedaluwarsa otomatis.

Terkait: Untuk ringkasan pengeluaran dan kuota, lihat Penggunaan & Biaya. Untuk event yang sama saat terjadi, lihat Live Feed.

Lihat setiap panggilan

Buka tampilan Requests dan periksa trace mana pun dari awal sampai akhir.

Buka RequestsKembali ke dokumen