FastRouter: 여러 제공업체를 연결하는 LLM 게이트웨이

FastRouter는 여러 모델 제공업체를 사용하는 개발자와 팀을 위한 LLM 게이트웨이입니다. AI.tech Ltd가 운영하며, OpenAI 호환 API에 라우팅, 대체 모델, 접근 제어, 비용 모니터링을 결합합니다.

FastRouter는 무엇을 하는 사이트인가요? 쉽게 설명하기

애플리케이션과 AI 모델 서비스 사이의 공통 접수 창구라고 생각하면 됩니다. 앱이 FastRouter에 요청을 보내면 게이트웨이가 해당 모델에 전달하고 답변을 돌려줍니다. 팀은 여러 모델 연결과 이용 기록을 한곳에서 관리할 수 있습니다.

AI 앱, 에이전트와 모델 비교 작업에 적합합니다. API는 이미지, 동영상, 오디오와 임베딩도 다루지만, 입력 형식과 기능은 모델 및 엔드포인트별로 다릅니다. 게이트웨이를 사용한다고 모든 모델의 기능이 같아지지는 않습니다.

자동 모델 선택과 장애 전환의 차이

fastrouter/auto는 요청의 복잡성, 주제와 비용을 고려해 모델을 선택합니다. 제공업체 라우팅은 특정 모델을 어느 업체에서 실행할지 가격, 지연 시간, 처리량 등의 기준으로 정합니다. 가상 모델 별칭을 쓰면 코드의 이름을 유지한 채 연결된 모델 구성을 바꿀 수 있습니다.

주 모델은 model, 대체 목록은 models로 지정합니다. 실패하면 다음 후보를 순서대로 시도하지만, 모두 실패하면 오류가 반환됩니다. 운영에 적용하기 전에 실제 사용 사례로 대체 모델의 응답 품질과 형식도 확인해야 합니다.

첫 API 호출을 연결하는 순서

1. 프로젝트 API 키를 만들고 보관합니다. 전체 키는 한 번만 표시됩니다.
2. 예산, 허용 모델과 분당 요청·토큰 제한을 설정합니다.
3. OpenAI 호환 클라이언트의 기본 URL을 https://api.fastrouter.ai/api/v1로 지정하고 FastRouter 키를 사용합니다.
4. Chat Completions에 model과 messages 배열을 보냅니다. 처음에는 민감한 정보가 없는 짧은 입력으로 테스트합니다.
5. 답변, 실제 모델, usage.provider, 토큰과 비용을 확인한 뒤 대시보드 기록과 비교합니다.

공식 시작 안내에 SDK 예제가 있습니다. 구조화된 출력과 도구 호출은 선택한 모델의 지원 여부를 확인해야 합니다.

팀 비용을 관찰하고 개선하기

대시보드는 비용, 토큰, 오류와 지연 시간을 보여줍니다. 프로젝트 권한과 키별 예산으로 이용 범위를 관리할 수 있습니다. Playground, Model Council, 평가와 프롬프트 관리는 모델 및 설정 비교에 활용할 수 있습니다.

Insights는 지난 7일의 요청을 바탕으로 매주 개선안을 제시합니다. 변경을 자동 적용하지 않으며 절감액은 예상치입니다. 캐시와 Flex 제안은 기존 데이터를 사용하지만, Model Switch를 켜면 요청 재실행과 평가에 추론 비용이 발생합니다. MCP Gateway는 외부 도구 서버, 프로젝트 범위와 허용 도구를 관리합니다. 도구 설명과 실행 결과도 컨텍스트 토큰을 늘립니다.

요금과 무료 사용 조건

2026년 10월 7일 확인한 공개 월간 플랫폼 요금은 USD 기준 Starter 0달러, Pro 199달러, Business 799달러입니다. Enterprise는 별도 견적입니다. 모델 사용료는 따로 계산하며, 공식 페이지는 모델 비용에 추가 마진을 붙이지 않는다고 설명합니다. 연간 결제와 기능 범위는 현재 요금제를 확인하세요. 원화 결제나 국내 지원을 보장하는 가격은 아닙니다.

Starter는 BYOK 키 1개와 월 100만 BYOK 요청을 포함하지만, 모델 추론까지 무료라는 뜻은 아닙니다. 응답 캐시, 추적과 Guardrails는 Pro부터, 자체 호스팅은 Enterprise에서 제공됩니다.

무료 모델 이용에는 유료 충전 잔액이 1달러를 초과해야 합니다. 해당 무료 요청 자체는 크레딧을 차감하지 않습니다. 문서의 기본 한도는 조직·모델별 하루 10회이며 UTC 자정에 초기화됩니다. 대상 모델과 조건은 바뀔 수 있습니다.

데이터 보관과 ZDR의 범위

프롬프트는 모델 제공업체로 전송됩니다. 키별 콘텐츠 로그를 끌 수 있고, :zdr은 보관하지 않는 조건을 충족하는 상위 제공업체만 선택하도록 제한합니다. 적합한 업체가 없으면 실패합니다.

이 설정은 FastRouter 캐시, 플러그인, 대화 상태 저장이나 플랫폼 로그까지 끄지 않습니다. 개인정보 처리방침과 요금제 표의 로그 보관 기간 설명이 다르므로 적용 조건을 확인해야 합니다. 모델 제공업체 약관과 키·서비스 재판매 제한도 적용됩니다.

자주 묻는 질문

FastRouter는 무료인가요?

Starter 플랫폼 요금은 무료입니다. 일반 모델 추론은 유료이며, 무료 모델은 잔액과 일일 한도 조건을 따로 충족해야 합니다.

기존 API 키를 그대로 사용할 수 있나요?

가능합니다. 조직 소유자가 Setup → External Keys → New Integration에서 등록하고 프로젝트와 모델을 선택합니다. BYOK 안내를 참고하세요. 기존 제공업체 계정의 요금과 제한은 유지됩니다.

ZDR을 쓰면 데이터가 전혀 저장되지 않나요?

아닙니다. ZDR의 예외를 읽고, 콘텐츠 로그와 데이터를 저장하는 다른 기능을 별도로 확인해야 합니다.

공식 문서와 개발자 커뮤니티

• 개발자 문서: API 매개변수와 기능 조건.
• 문의 양식: 계정, 배포와 계약 문의.
• 공식 Discord: 개발자 토론과 커뮤니티 도움.