Hubungkan LibreChat ke Anoman AI

LibreChat mendukung custom endpoint yang kompatibel dengan OpenAI di librechat.yaml. Tambahkan Anoman untuk memberikan UI chat self-hosted Anda satu gateway ke ratusan LLM dengan deteksi prompt injection, masking PII, dan moderasi konten pada setiap pesan.

← Panduan Integrasi Agent

Prasyarat

Akun Anoman AI dengan API key aktif (anm-sk-...)
Deployment LibreChat yang berjalan (librechat.ai)

Aktifkan streaming untuk tugas agen yang panjang

Setel stream: true pada permintaan. Tugas otonom, multi-langkah, dan berpikir lama bisa melewati batas waktu 100 detik di edge dan gagal dengan error 524; streaming mengembalikan token saat dihasilkan dan menjaga koneksi tetap hidup, sehingga permintaan selesai. Sebagian besar alat streaming secara default — pastikan aktif untuk penggunaan agentic.

Detail lebih lanjut di panduan streaming.

Langkah 1: Tambahkan custom endpoint ke librechat.yaml

Di bawah endpoints.custom, tambahkan entri Anoman dengan base URL yang kompatibel dengan OpenAI dan API key Anda. Cantumkan model yang ingin Anda tampilkan di pemilih model.

endpoints:
  custom:
    - name: "Anoman"
      apiKey: "${ANOMAN_API_KEY}"
      baseURL: "https://api.anoman.io/v1"
      models:
        default: ["gpt-4o", "claude-sonnet-4-6", "claude-haiku-4-5"]
        fetch: false
      titleConvo: true
      titleModel: "gpt-4o-mini"

Langkah 2: Atur API key

Letakkan key Anoman Anda di environment LibreChat agar referensi ${ANOMAN_API_KEY} dapat di-resolve. Jangan pernah men-commit key mentahnya.

# .env
ANOMAN_API_KEY=anm-sk-your-key-here

Langkah 3: Restart dan pilih Anoman

Restart LibreChat dan pilih Anoman dari pemilih endpoint. Setiap pesan kini diarahkan melalui gateway — guardrail berjalan lebih dulu, dan penggunaan diukur serta ditelusuri per key.

Verifikasi guardrail aktif

Setiap respons Anoman membawa header hasil guardrail. Periksa di traces dashboard Anda untuk memastikan pipeline berjalan pada request LibreChat — deteksi prompt-injection, masking PII, dan moderasi konten semuanya berlaku otomatis.

X-Anoman-Guardrail-Injection: pass score=0.03
X-Anoman-Guardrail-Pii: pass
X-Anoman-Guardrail-Content: pass
X-Anoman-Cache: none

Butuh bantuan dengan integrasi Anda?

Gabung Founding 50 untuk akses awal dan dukungan langsung dari tim Anoman.

Gabung Founding 50