FastRouter:複数プロバイダーをつなぐLLMゲートウェイ

複数モデルへの接続と利用コストを一つのAPIで管理

fastrouter.ai
FastRouter screenshot

FastRouterは、複数のモデル提供元を利用する開発者やチーム向けのLLMゲートウェイです。AI.tech Ltdが運営し、OpenAI互換API、ルーティング、代替モデル、アクセス管理、コスト監視をまとめて提供します。

FastRouterは何をするサイト?わかりやすく説明

アプリとAIモデルの間に置く「共通の受付窓口」と考えると理解しやすいでしょう。アプリがFastRouterに送ったリクエストを、指定したモデルや自動選択されたモデルへ転送し、結果を返します。チームは複数の接続先を一か所で管理できます。

AIアプリ、エージェント、モデル比較に向いています。APIは画像、動画、音声、埋め込みにも対応しますが、入力形式や機能はモデルとエンドポイント次第です。ゲートウェイを経由しても、すべてのモデルの能力が同じになるわけではありません。

最初のAPI呼び出しを確認する手順

  1. プロジェクトのAPIキーを作成し、安全に保存します。完全なキーは一度だけ表示されます。
  2. 予算、利用可能なモデル、リクエスト数やトークン数の制限を設定します。
  3. OpenAI互換クライアントのベースURLを https://api.fastrouter.ai/api/v1 にし、FastRouterのキーを指定します。
  4. Chat Completionsへ model と messages 配列を送信します。まず機密情報を含まない短い入力で試します。
  5. 回答、実際のモデル、usage.provider、トークン数と費用を確認し、ダッシュボードの記録と照合します。

公式の導入説明にはSDKの例があります。構造化出力やツール呼び出しは、選んだモデルが対応している必要があります。

自動選択と障害時の切り替え

fastrouter/auto は、質問の複雑さ、分野、コストを考慮してモデルを選びます。プロバイダールーティングは、同じモデルをどの提供元で実行するかを、価格、遅延、スループットなどで決める仕組みです。仮想モデルエイリアスを使うと、コード内の名前を保ったまま候補を変更できます。

主モデルを model、代替候補を models に設定すると、失敗時に順番に試行します。全候補が失敗すればエラーになります。実運用に移す前に、代替モデルの回答品質と形式も自分のテストケースで確認してください。

料金と無料枠の条件

2026年10月7日時点の公開月額プラットフォーム料金は、米ドルでStarterが0ドル、Proが199ドル、Businessが799ドルです。Enterpriseは個別見積もり。モデル利用料は別で、公式料金ページはモデル原価への上乗せなしと説明しています。現行プランで年払いと機能条件を確認してください。日本円決済の保証ではありません。

StarterにはBYOKキー1本と月100万件のBYOKリクエスト枠がありますが、推論料金まで無料になるわけではありません。レスポンスキャッシュ、トレーシング、GuardrailsはProから、自社環境への配置はEnterpriseの範囲です。

無料モデルの利用には、購入済み残高が1ドルを超えている必要があります。対象の呼び出し自体はクレジットを消費しません。文書上の標準枠は組織・モデルごとに1日10件、UTC午前0時にリセットされます。対象や条件は変更される場合があります。

利用状況から改善点を探す

ダッシュボードは費用、トークン、エラー、遅延を表示し、プロジェクト権限とキー予算で利用を管理できます。Playground、Model Council、評価、プロンプト管理はモデルや設定の比較に役立ちます。

Insightsは直近7日間を基に週次で改善を提案します。変更は自動適用されず、節約額も予測です。キャッシュとFlexの提案は既存データを使いますが、Model Switchを有効にすると再実行と評価の推論料金が発生します。MCP Gatewayは外部ツールサーバー、プロジェクト範囲、公開ツールを集中管理します。ツール定義や結果もコンテキストのトークンを増やします。

データ保存とZDRの適用範囲

プロンプトはモデル提供元へ送信されます。キー単位で内容ログを無効にでき、:zdr は保存しない条件を満たす上流提供元だけに候補を限定します。該当先がなければ失敗します。

ただし、FastRouterのキャッシュ、プラグイン、会話状態、ログをすべて無効化するものではありません。プライバシーポリシーとプラン表ではログ保持期間の説明が異なるため、適用条件を確認してください。提供元の規約やキー・サービスの再販売制限も適用されます。

よくある質問

FastRouterは無料で使えますか?

Starterのプラットフォーム料金は無料です。通常のモデル推論は有料で、無料モデルには別途残高と日次枠の条件があります。

自分のAPIキーを利用できますか?

はい。組織所有者がSetup → External Keys → New Integrationで登録し、プロジェクトとモデルを指定します。BYOKの手順に従って設定します。提供元アカウントの料金と制限は引き続き適用されます。

ZDRならデータは一切保存されませんか?

いいえ。ZDRの例外を確認し、内容ログや保存を伴う機能を別々に設定する必要があります。

公式資料と開発者コミュニティ