Jalankan LLM terbuka di server GPU dalam data center Anda sendiri.
Anoman Private AI dirancang untuk menghadirkan server GPU kelas enterprise, gateway dan guardrail Anoman, serta model terbuka pilihan ke data center Anda — untuk beban kerja AI yang ingin Anda simpan di jaringan sendiri. Tersedia sebagai akses awal: setiap penerapan dirancang dan diukur bersama Anda.
Konfigurasi
Empat ukuran, dari proof of concept hingga model terbuka terbesar
Konfigurasi acuan untuk server GPU kelas enterprise.
1–2× NVIDIA RTX PRO 6000
Memori GPU 96–192 GB. Model sekitar 8–32B parameter; gpt-oss-120b muat di satu kartu 96 GB. Untuk proof of concept dan lokasi edge.
4× NVIDIA RTX PRO 6000
Memori GPU 384 GB. Model 70B dalam FP8 untuk produksi, model mixture-of-experts 120B, dan fine-tuning LoRA. Rekomendasi utama kami untuk inferensi on-premise.
8× NVIDIA RTX PRO 6000 atau 8× NVIDIA H200 NVL
Memori GPU 768 GB atau 1,13 TB. Model mixture-of-experts 235B dalam FP8 dan fine-tuning LoRA untuk model 70B; konfigurasi H200 NVL memuat model 671B dalam FP8.
NVIDIA HGX B200 atau HGX B300
Memori GPU 1,44 TB atau 2,3 TB. Model 400–671B dan fine-tuning penuh untuk model 70B. Sistem berdensitas tinggi, biasanya ditempatkan di data center colocation.
Yang termasuk
Yang dirancang untuk disertakan Private AI
Gateway dan guardrail Anoman, on-premise
API yang kompatibel dengan OpenAI, dengan deteksi prompt injection, redaksi PII, kontrol akses, dan log audit, dirancang untuk berjalan di samping model Anda.
Model terbuka pilihan
Model open-weight seperti Sahabat-AI dan SEA-LION (dibangun untuk bahasa Indonesia dan bahasa-bahasa Asia Tenggara), Qwen, dan gpt-oss.
GPU cloud untuk pengembangan dan pengujian
Pengembangan dan pengujian di GPU cloud di Jakarta dapat diatur saat pemetaan kebutuhan, sebelum perangkat keras Anda sendiri terpasang.
Penerapan dan layanan terkelola
Anoman Professional Services memasang dan mengamankan (hardening) stack, dan dapat mengoperasikannya bersama Anda setelah go-live.
Anoman Flow, opsional
Tambahkan otomasi alur kerja di server yang sama setelah edisi privat Flow tersedia.
FAQ
Pertanyaan seputar Private AI
Model apa saja yang bisa dijalankan Private AI?
Model open-weight seperti Sahabat-AI, SEA-LION, Qwen, dan gpt-oss. Konfigurasi di atas mencantumkan ukuran model indikatif per tier; kami memastikan ukuran untuk model dan jumlah pengguna Anda sebelum pemesanan.
Bisakah kami mulai sebelum membeli perangkat keras?
Bisa. Pengembangan dan pengujian di GPU cloud di Jakarta dapat diatur saat pemetaan kebutuhan, atau mulai dengan AI Readiness Assessment atau proof of concept dari Anoman Professional Services.
Bagaimana harga Private AI?
Per proyek. Kami menawarkan perangkat keras, perangkat lunak, dan layanan sekaligus setelah memetakan kebutuhan Anda.
Apakah ada batasan siapa yang boleh membeli server GPU?
GPU NVIDIA kelas atas tunduk pada kontrol ekspor Amerika Serikat, sehingga setiap pesanan perangkat keras disertai penyaringan pengguna akhir.
Merencanakan private AI? Bicara dengan kami.
Ceritakan model yang ingin Anda jalankan, untuk berapa pengguna, dan di mana server akan ditempatkan.