Experiential Labs: 모델 API를 통합하는 AI 게이트웨이

Experiential Labs는 여러 모델 공급자를 사용하는 개발자와 팀을 위한 오픈소스 AI 게이트웨이입니다. 모델 API 연결, 라우팅, 키 관리와 사용 비용 추적을 한곳에 모읍니다. 호스팅 플랫폼을 이용하거나 자체 인프라에서 게이트웨이를 실행할 수 있습니다.

쉽게 설명하면, 이 사이트는 무엇을 하는 곳인가요?

애플리케이션의 AI 요청을 받는 공동 안내 창구라고 생각하면 됩니다. 앱이 원하는 모델을 지정하면 게이트웨이가 설정된 공급자 경로를 찾고 권한과 예산을 확인한 뒤 응답을 반환합니다. 여러 앱에서 공급자 연결과 비용 집계를 각각 구현하는 부담을 줄이는 방식입니다.

웹사이트는 제품을 소개하고 모델 목록, 키, 사용량을 관리하는 플랫폼으로 연결합니다. 운영 주체는 Experiential Labs라는 이름을 사용하는 Resolute Labs AI, Inc.입니다. AI 기능이 있는 제품과 에이전트를 운영하는 개발팀에 적합합니다.

팀별 비용과 공급자 경로를 확인하기

애플리케이션이나 에이전트마다 키를 나누고 모델 허용 목록과 예산 상한을 적용하면 사용 범위를 관리하기 쉽습니다. 요청 로그에는 경로, 토큰 사용량, 비용이 표시됩니다. 하나의 워크플로에 작은 예산을 지정해 실제 소비를 먼저 확인한 뒤 확대할 수 있습니다.

Provider waterfall은 동일한 모델을 제공할 수 있는 배포 경로를 순서대로 나열한 것입니다. 용량 또는 전송 오류가 나면 다음 경로를 시도할 수 있습니다. 공급자 변경과 작업에 맞는 다른 모델 선택은 서로 다른 기능입니다.

기존 클라이언트로 첫 호출을 실행하는 순서

공식 빠른 시작 문서는 OpenAI 호환 Chat Completions와 Responses 및 스트리밍을 설명합니다.

1. 로그인 후 Settings → API keys에서 키를 생성합니다. 비밀 값은 한 번만 표시되므로 바로 보관합니다.
2. EXPLABS_API_KEY를 설정하고 기본 URL을 https://api.experientiallabs.ai/v1로 바꿉니다.
3. 현재 모델 목록의 정확한 slug를 선택해 짧은 테스트 메시지를 전송합니다.
4. 응답과 실제 경로, 토큰, 비용을 확인합니다. 점진적 출력은 stream: true로 시험합니다.

입출력 형식과 컨텍스트 한도는 모델마다 다릅니다. OpenAI, Anthropic, Gemini 모델은 들어오는 요청의 IP 지역을 확인합니다. 목록에 있다고 모든 지역에서 호출할 수 있는 것은 아니며, BYOK나 대체 경로도 이 조건을 없애지 않습니다.

무료 크레딧과 Pro 비용의 차이

2026년 9월 6일 확인한 공식 요금 페이지는 미국 달러로 Free 월 0달러와 500크레딧, Pro 월 20달러부터와 2,000크레딧, 별도 협의하는 Enterprise를 안내합니다. 1크레딧은 0.01달러이며 라우팅 토큰에 별도 마진을 붙이지 않는다고 설명합니다.

추론은 여전히 크레딧을 소비하거나 BYOK 사용 시 공급자가 직접 청구합니다. 요금표는 BYOK와 로컬 모델을 Pro에 배치하지만 FAQ는 BYOK가 모든 요금제에 있다고 설명하므로 실제 계정 권한을 확인해야 합니다. 구매 시 플랫폼에 표시되는 조건이 우선하며 원화 청구, 세금계산서나 국내 결제 수단은 확인되지 않았습니다.

실제 요청 기록을 활용한 최적화

Intelligence는 트레이스를 분석해 모델 선택, 캐싱, 프롬프트 압축, 배치 처리, 추론 강도의 개선 기회를 찾습니다. 공식 자료는 Arize, Braintrust, LangChain, 데이터베이스와 게이트웨이 트래픽을 입력원으로 제시합니다.

Enterprise에서는 증류, 강화학습 또는 지도 미세 조정을 통한 전용 모델도 검토할 수 있습니다. 서비스 전에 검증하고 사용자가 명시적으로 활성화해야 합니다. 사례에 나온 절감률을 모든 서비스에 적용되는 보장으로 받아들여서는 안 됩니다.

자체 호스팅과 데이터 정책을 따로 검토하기

공식 저장소는 Apache-2.0 라이선스이며 시작 명령은 uvx --from experiential exp run입니다. 설치 요구사항을 먼저 확인하세요. 소프트웨어가 무료여도 서버와 추론 비용은 별개이며 모델 출력의 사용 권리도 따로 확인해야 합니다.

공급자 허용 목록, ZDR 라우팅과 공급자의 학습 사용을 제한하는 정책은 설정이 필요한 제어 수단입니다. 공개 개인정보 처리방침은 소개 웹사이트에만 적용되고 플랫폼 요청은 제외합니다. 이 문서만으로 API 프롬프트 보관 기간을 알 수 없습니다. 자체 게이트웨이도 외부 API 경로를 사용하면 데이터를 외부로 보냅니다. 내장 PII 마스킹과 프롬프트 인젝션 방어는 아직 제공된 기능으로 명시되어 있지 않습니다.

자주 묻는 질문

Free는 모델을 무제한 무료로 쓸 수 있다는 뜻인가요?

아닙니다. 월별 크레딧 한도가 있습니다. 토큰 마진이 없다는 설명은 추론 비용 자체가 없다는 뜻이 아닙니다.

OpenAI 호환 클라이언트를 계속 사용할 수 있나요?

문서의 기본 연결은 주소와 키를 바꾸고 모델 목록의 식별자를 사용하는 방식입니다. 필요한 모델 기능과 지역 조건을 테스트하세요.

자체 호스팅이면 프롬프트가 항상 내부에만 남나요?

모델 경로에 달려 있습니다. 외부 공급자 API로 보내는 요청은 그 공급자에게 전달됩니다.

공식 자료와 개발자 커뮤니티

• GitHub: 코드, 라이선스와 설치.
• 공식 사이트가 연결한 Discord: 커뮤니티 입구.
• 서비스 상태: 장애 확인.
• Intelligence: 트레이스 분석과 전용 모델.