TrustedRouter, bộ định tuyến API AI nhiều mô hình riêng tư

TrustedRouter là bộ định tuyến mô hình AI được lưu trữ dành cho nhà phát triển và nhóm cần truy cập nhiều nhà cung cấp qua một API tương thích OpenAI. Dịch vụ kết hợp lựa chọn mô hình, chuyển đổi dự phòng, điều kiện quyền riêng tư và bằng chứng công khai về cổng xử lý, mà không biến lớp trung gian thành kho nội dung prompt.

Một API cho ứng dụng nhiều mô hình

Trong nhiều dự án, bạn có thể giữ nguyên client và cấu trúc yêu cầu OpenAI, chỉ đổi base URL thành <code>https://api.trustedrouter.com/v1</code>. ID trực tiếp phù hợp khi cần cố định mô hình; <code>trustedrouter/auto</code> có thể chọn tuyến đang hoạt động tốt. Danh mục trực tiếp hiển thị nhà cung cấp, giá, giới hạn ngữ cảnh, tính sẵn sàng và nhãn quyền riêng tư.

Cách tiếp cận này hữu ích khi so sánh cùng một tác vụ thật trên nhiều mô hình, cần tuyến dự phòng lúc nhà cung cấp gặp sự cố hoặc phải áp dụng vùng và tiêu chuẩn xử lý dữ liệu. Nó không thay thế việc đánh giá chất lượng riêng hay xem điều khoản của nhà cung cấp cuối.

Định tuyến theo chi phí, độ ổn định và riêng tư

Mỗi yêu cầu có thể ghim, ưu tiên hoặc loại trừ nhà cung cấp. Có các tuyến cho failover chung, zero data retention, confidential computing và xử lý hướng đến EU. Mức riêng tư tối thiểu hoạt động theo cơ chế fail-closed: nếu không có tuyến đáp ứng, yêu cầu dừng trước suy luận thay vì âm thầm giảm điều kiện.

Chứng thực phần cứng chỉ bao phủ đường đi qua cổng TrustedRouter. Việc lưu giữ, huấn luyện, khu vực pháp lý và tính toán bí mật ở nhà cung cấp phía sau vẫn tùy theo tuyến đã chọn.

Quy trình kiểm tra tích hợp

1. Tạo khóa API và lưu ngoài mã nguồn dưới tên <code>TRUSTEDROUTER_API_KEY</code>.
2. Giữ định dạng OpenAI, chỉ thay base URL.
3. Bắt đầu với tuyến tự động hoặc chọn một mô hình cụ thể trong danh mục.
4. Chạy prompt thật và so sánh chất lượng, tổng chi phí, độ trễ token đầu tiên và lỗi.
5. Sau đó cố định mô hình, tuyến dự phòng và bộ lọc nhà cung cấp, vùng hoặc quyền riêng tư.

Phản hồi thành công chỉ xác nhận kết nối. Môi trường sản xuất vẫn cần một bộ đánh giá nhỏ, có thể lặp lại khi mô hình hoặc giá thay đổi.

Tính phí theo dùng, không có thuê bao tháng

Đã kiểm tra ngày 2 tháng 9 năm 2026: không có phí thuê bao hằng tháng. Văn bản và embedding trả trước có giá bằng giá nhà cung cấp cộng 5,5%; tác vụ video bất đồng bộ bằng báo giá nhà cung cấp cộng 20%. BYOK cho phép dùng hợp đồng và hạn mức sẵn có. Vì giá mô hình thay đổi, hãy kiểm tra trang giá chính thức trước khi lập ngân sách.

Dữ liệu prompt và giới hạn của chứng thực

Theo chính sách công khai, suy luận đồng bộ và streaming thông thường không ghi hoặc giữ nội dung prompt và đầu ra. Metadata vận hành như mô hình, nhà cung cấp, token, độ trễ, chi phí, trạng thái và vùng vẫn được lưu. Batch API tùy chọn có thể giữ hiện vật đã mã hóa tối đa 30 ngày. Nhà cung cấp cuối cũng áp dụng chính sách riêng.

Trang Trust liên kết chứng thực trực tiếp với commit và image digest được công bố. Điều này giúp kiểm tra workload đang chạy, nhưng không chứng minh mã không có lỗi hoặc mọi nhà cung cấp đều dùng confidential computing.

Câu hỏi thường gặp

TrustedRouter có phải lựa chọn thay OpenRouter không?

Có. Đây là API nhiều mô hình được lưu trữ và tương thích OpenAI. Điểm nhấn là đường đi có chứng thực, mã nguồn công khai và bộ lọc riêng tư fail-closed.

Prompt có được lưu không?

Không trong suy luận đồng bộ và streaming thông thường theo tài liệu. Metadata được giữ; chế độ Batch tùy chọn có thể lưu hiện vật mã hóa tối đa 30 ngày.

Dịch vụ có miễn phí không?

Không có thuê bao tháng, nhưng suy luận tính theo lượng dùng. Tạo khóa không cần thẻ không đồng nghĩa với gọi mô hình miễn phí không giới hạn.

Client OpenAI hiện tại có dùng được không?

Thường có, sau khi đổi URL, khóa và ID mô hình. Hãy kiểm tra khác biệt tương thích trước khi chuyển lưu lượng sản xuất.

Tài nguyên chính thức

• Tài liệu API — bắt đầu nhanh và điều khiển tuyến.
• Kiến trúc bảo mật — đường dữ liệu và giới hạn.
• Kho mã nguồn mở — kiểm tra mã công khai.
• Trạng thái dịch vụ — tính sẵn sàng và sự cố.
• Hỗ trợ chính thức — API, thanh toán và quyền riêng tư.