Experiential Labs: AI gateway untuk API banyak model

Experiential Labs adalah AI gateway open source untuk pengembang dan tim yang memakai beberapa penyedia model. Layanan ini menyatukan akses API, routing, pengelolaan kunci, dan pencatatan biaya. Anda dapat memakai platform yang dihosting penyedia atau menjalankan gateway di infrastruktur sendiri.

Penjelasan sederhana: situs ini dipakai untuk apa?

Bayangkan satu meja layanan untuk seluruh permintaan AI aplikasi Anda. Aplikasi menyebut model yang diinginkan, lalu gateway mencari rute penyedia yang sudah dikonfigurasi, memeriksa izin dan anggaran, serta mengembalikan jawaban. Pengelolaan banyak koneksi tidak perlu dibuat ulang di setiap aplikasi.

Situs ini memperkenalkan produk dan menghubungkan Anda ke platform katalog model, kunci, dan penggunaan. Operator yang disebutkan adalah Resolute Labs AI, Inc., dengan nama Experiential Labs. Sasaran utamanya pengembang produk AI, agen, dan tim infrastruktur bersama.

Menguji panggilan pertama dari klien yang sudah ada

Panduan mulai resmi menjelaskan Chat Completions dan Responses yang kompatibel dengan OpenAI, termasuk streaming.

1. Masuk lalu buat kunci melalui Settings → API keys. Salin nilai rahasia segera karena hanya ditampilkan sekali.
2. Atur EXPLABS_API_KEY dan base URL https://api.experientiallabs.ai/v1.
3. Pilih slug model yang masih berlaku di katalog dan kirim pesan uji singkat.
4. Periksa jawaban, rute sebenarnya, token, dan biaya di konsol. Aktifkan stream: true untuk menguji keluaran bertahap.

Format masukan, keluaran, dan batas konteks tetap bergantung pada model. Model OpenAI, Anthropic, dan Gemini memeriksa wilayah IP permintaan masuk. Tercantum dalam katalog tidak menjamin akses dari semua wilayah; BYOK dan jalur cadangan tidak menghapus persyaratan tersebut.

Mengatur rute cadangan dan batas belanja

Provider waterfall adalah urutan deployment yang dapat melayani model yang sama. Ketika terjadi kesalahan kapasitas atau transmisi, gateway dapat mencoba jalur berikutnya. Perpindahan penyedia ini berbeda dari memilih model lain untuk suatu tugas.

Kunci terpisah, daftar model yang diizinkan, dan plafon anggaran membantu membatasi aplikasi atau agen. Log mencatat rute, pemakaian token, dan biaya. Mulailah dari satu alur kerja dengan anggaran kecil, lalu tinjau penggunaan sebenarnya sebelum memperluas akses.

Menilai optimasi berdasarkan lalu lintas nyata

Lapisan Intelligence menganalisis trace untuk menemukan peluang pemilihan model, caching, kompresi prompt, pemrosesan batch, dan pengaturan upaya penalaran. Sumber yang disebut meliputi Arize, Braintrust, LangChain, database, dan lalu lintas gateway.

Kerja sama Enterprise dapat mencakup model khusus yang dilatih lewat distilasi, reinforcement learning, atau supervised fine-tuning. Model diuji sebelum melayani permintaan dan memerlukan aktivasi yang dipilih pengguna. Angka penghematan dalam studi kasus bukan jaminan untuk setiap aplikasi.

Kredit gratis, Pro, dan biaya inferensi

Pada 6 September 2026, halaman harga menampilkan USD: Free seharga 0 USD per bulan dengan 500 kredit; Pro mulai 20 USD dengan 2.000 kredit bulanan; Enterprise berdasarkan kesepakatan. Satu kredit dinyatakan bernilai 0,01 USD dan token yang dirutekan tidak dikenai markup.

Inferensi tetap menghabiskan kredit, atau ditagihkan langsung oleh penyedia saat menggunakan kunci sendiri melalui BYOK. Ada ketidaksesuaian: tabel paket menempatkan BYOK dan model lokal di Pro, sedangkan FAQ menyebut BYOK tersedia untuk semua paket. Pastikan akses sebenarnya di akun Anda. Ketentuan platform saat pembelian menjadi acuan; harga rupiah, pajak, dan metode pembayaran Indonesia belum terverifikasi.

Hosting sendiri dan batas kebijakan data

Repositori resmi menggunakan Apache-2.0 dan mendokumentasikan perintah uvx --from experiential exp run. Baca persyaratan instalasinya terlebih dahulu. Perangkat lunak gratis tidak mencakup server atau biaya model; lisensi gateway juga tidak menentukan hak keluaran model.

Daftar penyedia yang diizinkan, routing ZDR, dan kebijakan penyedia yang tidak memakai data untuk pelatihan memerlukan konfigurasi. Kebijakan privasi publik hanya berlaku untuk situs pengenalan, bukan permintaan platform. Dokumen itu tidak menentukan masa penyimpanan prompt API. Gateway internal tetap mengirim data keluar jika Anda memilih API penyedia eksternal. Penyembunyian PII dan perlindungan bawaan dari prompt injection dijelaskan sebagai belum tersedia.

Pertanyaan umum

Apakah Free berarti panggilan model gratis tanpa batas?

Tidak. Ada alokasi kredit bulanan. Tidak adanya markup token tidak menghilangkan biaya inferensi.

Bisakah saya mempertahankan klien kompatibel OpenAI?

Sambungan dasar mengganti base URL dan kunci, lalu memakai slug model dari katalog. Uji kemampuan dan kelayakan wilayah model yang Anda pilih.

Apakah hosting sendiri membuat semua prompt tetap internal?

Tergantung rute model. API eksternal akan menerima isi permintaan yang diteruskan kepadanya, meskipun gateway berada di jaringan Anda.

Sumber resmi

• GitHub: kode, lisensi, dan instalasi.
• Discord yang ditautkan situs resmi: akses komunitas.
• Status layanan: pemeriksaan insiden.
• Intelligence: analisis trace dan model khusus.