Experiential Labs: AI gateway kết nối nhiều mô hình

Experiential Labs là AI gateway mã nguồn mở dành cho lập trình viên và các nhóm sử dụng nhiều nhà cung cấp mô hình. Dịch vụ tập trung kết nối API, định tuyến, quản lý khóa và theo dõi chi phí. Bạn có thể dùng nền tảng được lưu trữ sẵn hoặc chạy gateway trên hạ tầng riêng.

Giải thích dễ hiểu: trang web này dùng để làm gì?

Hãy hình dung một quầy tiếp nhận chung cho các yêu cầu AI của ứng dụng. Ứng dụng chỉ định mô hình; gateway tìm tuyến nhà cung cấp đã cấu hình, kiểm tra quyền và ngân sách rồi trả lại kết quả. Nhờ đó, mỗi ứng dụng không phải tự xây lại toàn bộ phần quản lý kết nối và chi phí.

Trang web giới thiệu dịch vụ và dẫn tới nền tảng chứa danh mục mô hình, khóa API và thống kê sử dụng. Đơn vị vận hành được công bố là Resolute Labs AI, Inc., hoạt động dưới tên Experiential Labs. Công cụ phù hợp với nhóm xây sản phẩm AI, tác nhân và hạ tầng dùng chung.

Gọi thử một mô hình bằng ứng dụng hiện có

Hướng dẫn bắt đầu chính thức mô tả API tương thích OpenAI cho Chat Completions và Responses, bao gồm phản hồi dạng luồng.

1. Đăng nhập và tạo khóa ở Settings → API keys. Sao chép giá trị bí mật ngay vì nó chỉ xuất hiện một lần.
2. Thiết lập EXPLABS_API_KEY và địa chỉ gốc https://api.experientiallabs.ai/v1.
3. Chọn đúng mã model slug từ danh mục hiện tại rồi gửi một tin nhắn thử ngắn.
4. Kiểm tra câu trả lời, tuyến thực tế, số token và chi phí trong bảng điều khiển. Dùng stream: true để thử hiển thị kết quả từng phần.

Khả năng đầu vào, đầu ra và độ dài ngữ cảnh vẫn tùy từng mô hình. Các mô hình OpenAI, Anthropic và Gemini kiểm tra khu vực của IP gửi yêu cầu. Có tên trong danh mục không đồng nghĩa với truy cập được ở mọi nơi; BYOK và tuyến dự phòng không bỏ qua điều kiện này.

Phân biệt tuyến dự phòng với lựa chọn mô hình

Provider waterfall là danh sách có thứ tự các tuyến triển khai phục vụ cùng một mô hình. Khi có lỗi dung lượng hoặc truyền tải, gateway có thể thử tuyến tiếp theo. Việc đổi nhà cung cấp này khác với chọn một mô hình khác cho một nhiệm vụ.

Khóa riêng, danh sách mô hình được phép và trần ngân sách giúp kiểm soát từng ứng dụng hoặc tác nhân. Nhật ký ghi nhận tuyến, token và chi phí. Bạn có thể bắt đầu với một luồng công việc có ngân sách nhỏ, xem tiêu thụ thật rồi mới mở rộng.

Tối ưu từ dữ liệu gọi mô hình thực tế

Lớp Intelligence phân tích trace để tìm cơ hội chọn mô hình, dùng bộ nhớ đệm, nén prompt, xử lý theo lô và điều chỉnh mức suy luận. Các nguồn được nêu gồm Arize, Braintrust, LangChain, cơ sở dữ liệu và lưu lượng qua gateway.

Trong phạm vi Enterprise, nhà cung cấp còn có thể đánh giá mô hình riêng được huấn luyện bằng chưng cất, học tăng cường hoặc tinh chỉnh có giám sát. Mô hình phải được kiểm chứng trước khi phục vụ và cần chủ động bật sử dụng. Mức tiết kiệm trong nghiên cứu tình huống không bảo đảm kết quả tương tự cho mọi ứng dụng.

Credit miễn phí và chi phí Pro

Ngày 6 tháng 9 năm 2026, trang giá chính thức hiển thị bằng USD: Free giá 0 USD/tháng với 500 credit mỗi tháng; Pro từ 20 USD với 2.000 credit; Enterprise theo thỏa thuận. Trang nêu một credit bằng 0,01 USD và không cộng thêm biên giá vào token được định tuyến.

Suy luận vẫn tiêu thụ credit hoặc được nhà cung cấp tính trực tiếp khi dùng khóa riêng BYOK. Có thông tin mâu thuẫn: bảng gói xếp BYOK và mô hình cục bộ vào Pro, nhưng FAQ nói BYOK có ở mọi gói. Hãy xác nhận quyền thực tế trong tài khoản. Điều kiện tại lúc mua trên nền tảng được ưu tiên; giá USD không phải báo giá bằng đồng Việt Nam hay cam kết đã gồm thuế.

Tự lưu trữ không thay thế việc kiểm tra chính sách dữ liệu

Kho mã chính thức dùng Apache-2.0 và tài liệu đưa ra lệnh uvx --from experiential exp run. Cần đọc yêu cầu cài đặt trước. Phần mềm miễn phí không bao gồm máy chủ hay chi phí suy luận; giấy phép gateway cũng không quyết định quyền đối với đầu ra mô hình.

Danh sách nhà cung cấp cho phép, định tuyến ZDR và chính sách nhà cung cấp không dùng dữ liệu để huấn luyện cần được cấu hình. Chính sách quyền riêng tư công khai chỉ áp dụng cho trang giới thiệu, không bao gồm yêu cầu trên nền tảng. Vì vậy không thể suy ra thời gian lưu prompt API từ tài liệu này. Gateway tự chạy vẫn gửi dữ liệu ra ngoài nếu bạn chọn API ngoài. Che PII và phòng vệ tích hợp chống prompt injection được mô tả là chưa được cung cấp.

Câu hỏi thường gặp

Free có cho phép gọi mô hình không giới hạn không?

Không. Có hạn mức credit mỗi tháng. Không cộng giá token không có nghĩa là suy luận không tốn tiền.

Có thể giữ client tương thích OpenAI đang dùng không?

Quy trình cơ bản thay địa chỉ gốc, khóa và dùng mã mô hình trong danh mục. Sau đó cần kiểm tra tính năng và điều kiện khu vực của mô hình.

Tự lưu trữ có giữ toàn bộ prompt trong nội bộ không?

Điều đó phụ thuộc tuyến mô hình. Nhà cung cấp API ngoài sẽ nhận nội dung yêu cầu được chuyển tới họ.

Tài nguyên chính thức

• GitHub: mã nguồn, giấy phép và triển khai.
• Discord được website liên kết: lối vào cộng đồng.
• Trạng thái dịch vụ: theo dõi sự cố.
• Intelligence: phân tích trace và mô hình riêng.