FastRouter: AI Gateway kết nối nhiều nhà cung cấp mô hình

FastRouter là AI Gateway dành cho lập trình viên và nhóm sử dụng nhiều nhà cung cấp mô hình. Dịch vụ do AI.tech Ltd vận hành, kết hợp API tương thích OpenAI với định tuyến, mô hình dự phòng, phân quyền và theo dõi chi phí.

FastRouter dùng để làm gì? Giải thích dễ hiểu

Hãy hình dung một quầy tiếp nhận chung nằm giữa ứng dụng và các dịch vụ chạy mô hình AI. Ứng dụng gửi yêu cầu tới FastRouter; gateway chuyển yêu cầu tới mô hình rồi trả kết quả về. Nhóm có thể quản lý nhiều kết nối tại một nơi.

Cách này phù hợp với ứng dụng AI, agent và thử nghiệm mô hình. API còn bao gồm hình ảnh, video, âm thanh và embedding. Tuy nhiên, đầu vào và tính năng được hỗ trợ phụ thuộc vào mô hình và endpoint; cần kiểm tra trước khi chuyển đổi.

Các bước thực hiện lời gọi đầu tiên

1. Tạo khóa API cho dự án và lưu an toàn: giá trị đầy đủ chỉ hiển thị một lần.
2. Đặt ngân sách, mô hình được phép và giới hạn yêu cầu/token.
3. Trong client tương thích OpenAI, dùng URL gốc https://api.fastrouter.ai/api/v1 cùng khóa FastRouter.
4. Gửi model và mảng messages đến Chat Completions, bắt đầu bằng ví dụ không chứa dữ liệu nhạy cảm.
5. Kiểm tra câu trả lời, mô hình thực tế, usage.provider, token và chi phí trên dashboard.

Hướng dẫn nhập môn chính thức có ví dụ SDK. Đầu ra có cấu trúc và gọi công cụ cần mô hình tương thích; cùng định dạng API không đồng nghĩa cùng khả năng.

Chi phí nền tảng và điều kiện miễn phí

Tại ngày 7/10/2026, giá nền tảng công khai theo tháng bằng USD là Starter 0, Pro 199 và Business 799 đô la; Enterprise cần báo giá riêng. Chi phí sử dụng mô hình được tính riêng, và website công bố không cộng biên lợi nhuận lên chi phí mô hình. Xem gói hiện hành để biết thanh toán năm và quyền lợi. Đây không phải giá thanh toán bằng VND.

Starter có một khóa BYOK và một triệu yêu cầu BYOK mỗi tháng, không phải một triệu lượt suy luận miễn phí. Cache câu trả lời, tracing và guardrails bắt đầu từ Pro; tự triển khai thuộc Enterprise.

Dịch vụ mô hình miễn phí yêu cầu số dư đã thanh toán lớn hơn 1 USD. Lượt miễn phí hợp lệ không trừ tín dụng. Mức mặc định trong tài liệu là mười yêu cầu cho mỗi tổ chức, mỗi mô hình, mỗi ngày; đặt lại lúc 0 giờ UTC. Điều kiện và mô hình có thể thay đổi.

Chọn mô hình và xử lý khi có lỗi

fastrouter/auto chọn mô hình theo độ phức tạp, chủ đề và chi phí. Định tuyến nhà cung cấp chọn nơi chạy một mô hình cụ thể theo giá, độ trễ hoặc thông lượng. Bí danh mô hình ảo giữ tên trong mã nguồn ổn định khi thay đổi các lựa chọn phía sau.

Đặt mô hình chính trong model và danh sách dự phòng trong models. Khi có lỗi, hệ thống thử lần lượt; nếu tất cả thất bại, yêu cầu vẫn trả lỗi. Hãy thử chất lượng và định dạng câu trả lời dự phòng bằng dữ liệu mẫu của ứng dụng trước khi đưa vào vận hành.

Theo dõi sử dụng và đánh giá cải tiến

Dashboard thể hiện chi phí, token, lỗi và độ trễ. Quyền dự án và ngân sách khóa giúp kiểm soát chi tiêu. Playground, Model Council, đánh giá và quản lý prompt hỗ trợ so sánh cấu hình.

Insights đưa đề xuất hằng tuần từ lưu lượng bảy ngày trước đó. Nó không tự áp dụng thay đổi, và mức tiết kiệm chỉ là dự kiến. Đề xuất cache và Flex dùng dữ liệu có sẵn; bật Model Switch sẽ chạy lại yêu cầu và đánh giá có tính phí suy luận. MCP Gateway tập trung máy chủ công cụ, phạm vi dự án và công cụ được phép. Mô tả cùng kết quả công cụ cũng làm tăng token ngữ cảnh.

Dữ liệu và phạm vi của ZDR

Prompt được chuyển tới nhà cung cấp mô hình. Có thể tắt ghi nội dung theo khóa, còn :zdr chỉ chọn nhà cung cấp đủ điều kiện không lưu dữ liệu. Nếu không có nhà cung cấp phù hợp, yêu cầu thất bại.

Điều đó không tắt cache FastRouter, plugin, trạng thái hội thoại hay nhật ký nền tảng. Chính sách riêng tư và bảng gói ghi thời hạn lưu nhật ký khác nhau; hãy xác nhận điều kiện cho cách triển khai của bạn. Điều khoản nhà cung cấp và giới hạn bán lại khóa, dịch vụ cũng áp dụng.

Câu hỏi thường gặp

FastRouter có miễn phí không?

Starter không thu phí nền tảng. Suy luận thông thường vẫn có phí; mô hình miễn phí có điều kiện số dư và hạn mức ngày riêng.

Có thể dùng khóa API riêng không?

Có. Chủ tổ chức thêm khóa tại Setup → External Keys → New Integration, rồi chọn dự án và mô hình. Hướng dẫn BYOK trình bày các bước. Giá và giới hạn của tài khoản nhà cung cấp vẫn giữ nguyên.

ZDR có nghĩa là không lưu dữ liệu ở bất kỳ đâu không?

Không. Xem phạm vi và ngoại lệ ZDR, đồng thời kiểm tra riêng nhật ký nội dung và các tính năng lưu trữ.

Tài liệu và cộng đồng chính thức

• Tài liệu lập trình viên: API và điều kiện tính năng.
• Biểu mẫu liên hệ: tài khoản, triển khai và hợp đồng.
• Discord chính thức: thảo luận và hỗ trợ cộng đồng.