shim AI Gateway: che dữ liệu cá nhân và quản lý API

Nói dễ hiểu, shim dùng để làm gì?

shim là AI Gateway nằm giữa ứng dụng và nhà cung cấp mô hình. Yêu cầu đi qua lớp này trước. Nếu chính sách riêng tư đang bật nhận ra email hoặc khóa bí mật, shim thay giá trị đó bằng ký hiệu giữ chỗ trước khi gửi. Khi trả kết quả cho ứng dụng, giá trị gốc có thể được khôi phục.

Công cụ phù hợp với nhóm tích hợp API AI cần biết dữ liệu nào rời hệ thống, lượng dùng và chi phí. Trang web còn cung cấp shim-cli chạy trên máy lập trình viên, nhưng phạm vi bảo vệ với trợ lý lập trình khác với gateway.

Cách thử một yêu cầu từ backend

1. Tạo khóa shim và cấu hình riêng thông tin xác thực của nhà cung cấp.
2. Làm theo tài liệu tích hợp API. Ví dụ OpenAI dùng https://api.getshim.tech/v1; Anthropic và Gemini giữ đường dẫn, định dạng gốc được mô tả.
3. Chọn mô hình được duyệt, bật chính sách tenant và đặt giới hạn đầu ra hợp lý. Giữ khóa ở phía máy chủ.
4. Gửi văn bản chứa định danh hư cấu, rồi kiểm tra phản hồi, giá trị khôi phục và mức dùng ghi nhận.
5. Nếu bị từ chối, kiểm tra danh mục mô hình và giới hạn; vượt hạn mức hoặc tốc độ đã đặt có thể trả HTTP 429.

Các endpoint được mô tả gồm OpenAI Responses, Chat, Anthropic Messages và Gemini generateContent, kèm streaming gốc. Không phải mọi tài nguyên SDK đều được bảo đảm. Tài liệu loại trừ chuyển đổi, định tuyến và failover giữa nhà cung cấp, cũng như chạy nền OpenAI Responses.

Che dữ liệu có thể khôi phục hoạt động ra sao?

Tài liệu liệt kê email, điện thoại, thẻ, IBAN, TCKN Thổ Nhĩ Kỳ, SSN Mỹ, khóa API, khóa riêng, chuỗi kết nối cơ sở dữ liệu và địa chỉ mạng. Trong cùng yêu cầu, một giá trị lặp lại dùng cùng ký hiệu ngẫu nhiên để giữ quan hệ giữa các phần nội dung.

Đây không phải cam kết ẩn danh hoàn toàn. Tài liệu nói tên người bằng tiếng Anh chưa được phát hiện. Không nên suy ra khả năng nhận diện mọi giấy tờ địa phương. Hãy dùng ví dụ giả lập sát nghiệp vụ để kiểm tra cả che và khôi phục.

Ngân sách theo nhóm và dấu vết kiểm toán

Ngân sách có thể áp dụng cho tổ chức, nhóm hoặc thẻ yêu cầu, theo USD hay token. Gateway giữ trước mức ước tính và chốt mức dùng thực sau cuộc gọi. RPM/TPM, hạn mức ngày hoặc tháng và chặn yêu cầu giống hệt lặp lại giải quyết các kiểu tiêu thụ khác nhau.

Bản ghi gồm trạng thái, mô hình, lượng dùng, chi phí và sự kiện riêng tư. Xác minh chuỗi kiểm toán, báo cáo bằng chứng và bước xét duyệt của con người tùy chọn hỗ trợ kiểm soát nội bộ. Chúng không phải chứng nhận tuân thủ pháp luật.

Hạn mức miễn phí và dữ liệu được giữ lại

Kiểm tra ngày 20/10/2026: Developer ghi $0, với đồng thời một triệu token và 1.000 yêu cầu mỗi tháng. Enterprise báo giá theo triển khai, sử dụng và hỗ trợ. Chưa xác nhận phí suy luận mô hình đã gồm trong đó; xem điều kiện hiện tại và hóa đơn nhà cung cấp.

Chính sách riêng tư nêu xử lý tạm thời nội dung prompt và phản hồi, không lưu phần thân trong bản ghi yêu cầu bền vững. Tuy nhiên, ánh xạ khôi phục mã hóa gắn với tenant cho các lượt tiếp OpenAI Responses có thể ở Redis tối đa 30 ngày. Enterprise tại chỗ giữ dữ liệu gateway ngoài hạ tầng shim, nhưng vẫn gửi yêu cầu đến mô hình đã chọn.

Khi bật scrubbing, tệp, ảnh và âm thanh dạng không thể kiểm tra an toàn sẽ bị từ chối. Nội dung quảng bá chuyển đổi tài liệu không có nghĩa mọi endpoint đều nhận mọi tệp.

shim-cli trên máy lập trình viên

CLI miễn phí theo Apache-2.0, không cần tài khoản shim, chạy trên macOS và Linux với Python 3.10 trở lên. Với Claude Code, quy trình chính thức là cài đặt, chạy shim demo claude, xem trước shim install claude --dry-run, cài hook và mở phiên mới để chạy shim doctor claude.

Claude Code có thể che một số nội dung tệp và công cụ phù hợp. Prompt nhập trực tiếp vào Claude Code và Codex mặc định chỉ được báo cáo, có thể bị chặn ở chế độ enforce nhưng không viết lại. Copilot CLI có thể thay prompt; lưu lượng công cụ của nó và Codex không được kiểm tra. VS Code không che dữ liệu. Windows chưa hỗ trợ, WSL chưa xác minh.

shim audit đếm phơi lộ trong lịch sử Claude Code cục bộ mà không in giá trị nhạy cảm. shim watch -- claude quan sát phiên, token và chi phí. Khả năng phát hiện vẫn có thể bỏ sót.

Câu hỏi thường gặp

Những dữ liệu nào được che?

Tài liệu nêu thông tin liên hệ, tài chính, một số định danh quốc gia và bí mật. Đầu vào, chính sách và client quyết định phạm vi; không phát hiện đầy đủ mọi giá trị.

Phần nào miễn phí và mã nguồn mở?

CLI miễn phí theo Apache-2.0. Gateway lưu trữ có hạn mức tháng, Enterprise cần báo giá. Giấy phép CLI không tự áp dụng cho toàn dịch vụ.

Có dùng được mọi mô hình và tệp không?

Cần endpoint được mô tả và mô hình được duyệt. Scrubbing từ chối đầu vào không kiểm tra được; không có cam kết tự đổi nhà cung cấp.

Tài nguyên chính thức

• Kiến trúc bảo mật: xem thông tin xác thực và điều kiện triển khai.
• Mã nguồn và vấn đề shim-cli: kiểm tra giấy phép, phiên bản và hỗ trợ client.