FastRouter: AI gateway untuk aplikasi dengan banyak penyedia

Satu API untuk menghubungkan model dan memantau biaya tim

Buka situsnya ↗fastrouter.ai
fastrouter.ai
FastRouter screenshot

FastRouter adalah AI gateway bagi pengembang dan tim yang memakai beberapa penyedia model. Layanan dari AI.tech Ltd ini menggabungkan API kompatibel OpenAI, routing, model cadangan, pengaturan akses dan pemantauan biaya.

Apa kegunaan FastRouter? Penjelasan sederhana

Bayangkan satu loket antara aplikasi Anda dan layanan yang menjalankan model AI. Aplikasi mengirim permintaan ke FastRouter, gateway meneruskannya ke model lalu mengembalikan jawaban. Tim dapat mengatur banyak koneksi dari satu tempat.

Ini berguna untuk aplikasi AI, agen dan pengujian model. API juga mencakup gambar, video, audio dan embedding. Namun, format masukan serta kemampuan berbeda menurut model dan endpoint. Periksa dukungannya sebelum mengganti model yang sedang digunakan.

Cara membuat panggilan API pertama

  1. Buat kunci proyek dan simpan dengan aman; nilai lengkapnya hanya ditampilkan sekali.
  2. Atur anggaran, model yang diizinkan serta batas permintaan dan token.
  3. Pada klien kompatibel OpenAI, gunakan https://api.fastrouter.ai/api/v1 sebagai URL dasar dan kunci FastRouter untuk autentikasi.
  4. Kirim model dan array messages ke Chat Completions. Mulailah dengan contoh singkat tanpa data sensitif.
  5. Periksa jawaban, model sebenarnya, usage.provider, token dan biaya di dasbor.

Panduan pengantar resmi menyediakan contoh SDK. Keluaran terstruktur dan pemanggilan alat memerlukan dukungan model; kesamaan format API saja tidak cukup.

Harga platform dan akses gratis

Pada pemeriksaan 7 Oktober 2026, harga platform bulanan publik dalam USD adalah 0 untuk Starter, 199 untuk Pro dan 799 untuk Business. Enterprise memakai penawaran khusus. Pemakaian model ditagih terpisah; situs menyatakan tidak ada markup pada biaya model. Lihat paket terbaru untuk pembayaran tahunan dan cakupan fitur. Harga tersebut bukan konfirmasi pembayaran rupiah atau metode pembayaran lokal.

Starter mencakup satu kunci BYOK dan satu juta permintaan BYOK per bulan, bukan satu juta inferensi gratis. Cache respons, tracing dan guardrails dimulai dari Pro; hosting sendiri termasuk Enterprise.

Akses model gratis mensyaratkan saldo berbayar di atas 1 USD. Permintaan gratis yang memenuhi syarat tidak menghabiskan kredit. Batas bawaan yang didokumentasikan adalah sepuluh permintaan per organisasi, per model, per hari, direset pada tengah malam UTC. Ketersediaan dan syarat bisa berubah.

Memilih model dan menangani kegagalan

fastrouter/auto memilih model berdasarkan kerumitan, topik dan biaya. Routing penyedia memilih pelaksana suatu model berdasarkan harga, latensi atau throughput. Alias model virtual mempertahankan satu nama dalam kode saat pilihan model di belakangnya berubah.

Tetapkan model utama dan daftar models untuk cadangan berurutan. Jika semua pilihan gagal, permintaan tetap menghasilkan galat. Uji kualitas dan format jawaban cadangan dengan contoh nyata sebelum mengalihkan lalu lintas produksi.

Privasi dan batas ZDR

Prompt diteruskan ke penyedia model. Pencatatan konten dapat dinonaktifkan per kunci. Akhiran :zdr membatasi pemilihan ke penyedia yang memenuhi syarat tanpa retensi; permintaan gagal jika tidak ada yang cocok.

Ini tidak mematikan cache FastRouter, plugin, status percakapan tersimpan atau log platform. Kebijakan privasi dan tabel paket menyebut masa penyimpanan log yang berbeda; konfirmasikan ketentuan untuk penerapan Anda. Ketentuan penyedia serta pembatasan penjualan kembali kunci dan layanan juga berlaku.

Mengukur penggunaan sebelum mengoptimalkan

Dasbor menampilkan biaya, token, galat dan latensi. Izin proyek serta anggaran kunci membantu membatasi pengeluaran. Playground, Model Council, evaluasi dan pengelolaan prompt mendukung perbandingan konfigurasi.

Insights mengusulkan perubahan setiap minggu berdasarkan tujuh hari sebelumnya. Perubahan tidak diterapkan otomatis, dan penghematan hanya proyeksi. Rekomendasi cache serta Flex menggunakan data yang tersedia; mengaktifkan Model Switch menjalankan ulang permintaan dan evaluasi berbayar. MCP Gateway mengelola server alat, cakupan proyek dan pilihan alat secara terpusat. Definisi serta hasil alat ikut menambah token konteks.

Pertanyaan umum

Apakah FastRouter gratis?

Starter tidak mengenakan biaya platform. Inferensi biasa tetap berbayar, sedangkan model gratis mempunyai persyaratan saldo dan kuota harian tersendiri.

Bisakah saya memakai API key sendiri?

Bisa. Pemilik organisasi menambahkannya melalui Setup → External Keys → New Integration, lalu memilih proyek dan model. Ikuti panduan BYOK. Harga dan batas akun penyedia Anda tetap berlaku.

Apakah ZDR berarti tidak ada data yang disimpan?

Tidak. Baca cakupan dan pengecualian ZDR, lalu periksa pencatatan konten serta fitur penyimpanan secara terpisah.

Sumber resmi dan komunitas