Live Feed
Aliran SSE real-time dari semua yang terjadi di gateway — permintaan, blokir, anomali, batch job, masalah provider — plus kesehatan per-provider dan latensi bergulir.
Aktivitas gateway saat terjadi
Buka GET /anoman/v1/events/stream dengan autentikasi API key untuk menerima aliran Server-Sent-Events dari aktivitas gateway. Tipe event mencakup:
- permintaan — setiap completion saat selesai, dengan model, status, dan latensi;
- blokir guardrail — permintaan yang dihentikan oleh injeksi / PII / konten / kebijakan;
- anomali — lonjakan token, ledakan permintaan, badai guardrail, atau outlier biaya yang terdeteksi;
- perubahan status batch job — masuk antrean, selesai, gagal, dieskalasi;
- masalah provider — degradasi atau kegagalan provider hulu.
cURL
Event
JavaScript
Ini aliran yang berbeda dari streaming completion — lihat Streaming untuk keluaran respons token-demi-token.
Status per-provider + latensi p50
Panggil GET /anoman/v1/providers/health untuk status terkini setiap provider dan latensi p50 bergulir dalam jendela 5 menit — sinyal yang sama yang menggerakkan routing berbasis latensi.
Kesehatan
Papan pantau dan reaksi real-time
Jalankan papan pantau langsung untuk tim ops Anda, atau berlangganan secara terprogram untuk bereaksi terhadap blokir dan anomali begitu terjadi.
Terkait: Event anomali pada feed dibangkitkan oleh mesin deteksi anomali.
Pantau langsung
Buka Live Feed dan lihat gateway secara real-time.