Experiential Labs：開源 AI Gateway 與模型 API

Experiential Labs 是供開發者與企業技術團隊使用的開源 AI Gateway，將多家模型供應商、自備金鑰與自訂或本機模型整合到同一 API 入口。它的用途涵蓋模型串接、路由管理、預算限制與用量追蹤，也提供託管平台和自行部署選項。

白話介紹：這個網站是做什麼用的？

可以把它想成應用程式與 AI 模型之間的共同服務櫃台。你的程式指定要使用的模型，閘道便依照已設定的路徑送出請求，同時檢查權限和預算，再把回答交回來。不同產品因此可以共用管理機制，不必各自維護所有供應商的串接與費用紀錄。

官網介紹服務，連結的平台則提供模型目錄、金鑰與用量管理。條款列出的營運者為使用 Experiential Labs 名稱的 Resolute Labs AI, Inc.。對於同時開發多個 AI 功能、管理多個 Agent 或希望掌握模型流量的團隊，這種集中入口尤其有用。

從現有客戶端送出第一筆請求

平台支援 OpenAI 相容的 Chat Completions 與 Responses API，包含串流回應。官方快速入門提供以下基本路徑：

1. 登入平台，在 Settings → API keys 建立閘道金鑰。祕密值只顯示一次，請立即保存。
2. 設定環境變數 EXPLABS_API_KEY，將客戶端基礎網址改為 https://api.experientiallabs.ai/v1。
3. 從目前模型目錄選擇正確的 model slug，先用一則簡短訊息測試。
4. 核對回應內容，再查看實際路由、token 與費用。需要逐步顯示回答時，可用 stream: true 驗證串流。

模型的輸入輸出能力與上下文限制仍各不相同。OpenAI、Anthropic 和 Gemini 模型會檢查傳入請求 IP 的所在地區；目錄中看得到，不代表任何地區都能呼叫，自備金鑰與備援路徑也不會取消限制。

自行託管與平台隱私不能混為一談

官方程式碼採 Apache-2.0 授權，啟動命令為 uvx --from experiential exp run。部署前仍應閱讀環境與設定需求。閘道軟體可免費運行，不代表主機、GPU 或模型推論免費；程式碼授權也不等於模型輸出內容的使用權。

官網安全說明列出供應商允許清單、零資料保留路由與禁止供應商將資料用於訓練的政策。這些控制需要正確設定，不能直接當作託管平台所有預設行為的保證。公開的隱私政策只涵蓋宣傳網站，明確排除平台帳號、金鑰和 API 請求，因此無法據此判定 API 提示詞保存期限。

自行架設閘道後，如果模型仍由外部 API 提供，請求內容仍會送往該供應商。安全頁也說明內建 PII 遮蔽與提示詞注入防護尚未交付，不能把它當作已具備的功能。

多模型備援與團隊預算如何管理？

Provider waterfall 是同一個模型所對應的一組有順序的供應路徑。當前路徑發生容量或傳輸錯誤時，系統可以嘗試下一條路。這種供應商切換，與為某個任務選擇另一個模型，是兩種不同的決策。

分別發給應用程式或 Agent 的金鑰，配合模型允許清單與支出上限，可以限制每個工作流程的使用範圍。請求紀錄會顯示路由、token 和成本。先以小額預算測試一個流程，再依據實際紀錄擴大使用，有助於確認費用是否符合預期。

用實際流量評估最佳化空間

Intelligence 層分析 traces，也就是模型呼叫的過程紀錄，找出模型選擇、快取、提示詞壓縮、批次處理和推理強度的改善機會。官網列出的來源包括 Arize、Braintrust、LangChain、資料庫與閘道流量。

企業合作還可延伸至專用模型，透過蒸餾、強化學習或監督式微調訓練，經過驗證後才提供服務，並且需要主動啟用。官網案例的節省幅度屬於特定工作負載結果，不宜直接套用到每個產品。

免費額度與 Pro 方案要注意哪些條件？

截至 2026 年 9 月 6 日，官方定價頁以美元列出 Free 每月 0 美元、含 500 credits；Pro 每月 20 美元起、含 2,000 credits；Enterprise 另外洽談。頁面標示每個 credit 為 0.01 美元，並表示路由 token 不另外加價。

推論本身仍然計費：平台路徑扣除 credits，自備供應商金鑰 BYOK 則由供應商直接收費。定價資料有一處矛盾：方案表將 BYOK 與本機模型放在 Pro，但 FAQ 又表示 BYOK 適用所有方案。使用前應確認帳號實際權限，以平台購買時的顯示為準。美元數字並非已確認的新臺幣報價或含稅總額。

常見問題

免費方案是否可以無限呼叫？

不是。官網提供的是每月 credits 額度。零 token 加價並不等於免除模型使用成本。

原本的 OpenAI 相容客戶端可以沿用嗎？

官方基本流程是更換基礎網址、金鑰和模型識別碼。移轉完整工作前，仍要測試所需功能、上下文與地區條件。

自行部署就能保證提示詞不外流嗎？

要看模型和路由設定。外部供應商仍會收到指向其 API 的請求，不能只看閘道部署在哪裡。

官方資源與開發者社群

• GitHub 官方儲存庫：原始碼、授權與部署說明。
• 官網連結的 Discord 社群：開發者交流入口。
• 服務狀態頁：查看服務事件。
• Intelligence 說明：流量分析與專用模型合作。