shim：提供個資遮罩與用量稽核的 AI 閘道

用白話說，shim 是做什麼的？

shim 是放在應用程式與 AI 模型服務之間的閘道。原本直接送給模型的請求，先經過 shim 檢查：如果已啟用的隱私政策偵測到電子郵件、帳號識別資訊或金鑰，便先以佔位符取代，再送到指定的模型服務商。回覆返回應用程式時，可以還原相應的值。

它適合替產品串接 AI API 的工程團隊，以及需要了解資料流向、成本與稽核證據的管理者。網站另有在開發者電腦執行的 shim-cli；應用程式的閘道流量與編程助手的本機流量，是兩條不同的使用路徑。

個資遮罩如何保留內容關係？

同一請求內重複出現的敏感值會使用相同的隨機佔位符，讓模型理解內容之間的關係，而不必取得原始識別值。文件列出的類型包含電子郵件、電話、信用卡、IBAN、土耳其 TCKN、美國 SSN、API 金鑰、私鑰、資料庫連線字串及網路位址。

可還原的替換有其邊界。官方文件指出，英文人名目前尚未偵測，不能推論臺灣身分證號或所有語言的姓名都已支援。建議先準備接近實際情境的虛構資料，檢查哪些值被替換，以及回覆是否正確還原。

先完成一次後端 API 接入

1. 建立 shim 閘道金鑰，並另外設定模型服務商憑證；兩種金鑰的職責不同。
2. 依官方串接文件設定後端。OpenAI 範例使用 https://api.getshim.tech/v1；Anthropic 與 Gemini 保留文件所列的原生請求格式與路由。
3. 選用核准模型、啟用租戶所需的遮罩政策，並設定合適的輸出 token 上限。金鑰應保留於後端。
4. 使用虛構電子郵件測試，確認回覆、還原結果、用量與稽核紀錄。
5. 若請求被拒，檢查模型清單、速率及配額；超過已設定限制可能收到 HTTP 429。

文件涵蓋 OpenAI Responses、Chat、Anthropic Messages 和 Gemini generateContent 等端點與對應串流格式。相容範圍以端點為準，並不代表所有 SDK 資源皆可使用。文件明確排除跨服務商格式轉換、路由與自動備援，也未提供 OpenAI Responses 背景執行的完整生命週期。

免費額度、資料留存與自行部署

2026 年 10 月 20 日核對時，Developer 方案為 $0，同時有每月 100 萬 token 與 1,000 次請求額度。Enterprise 的用量、部署及支援需個別報價。這些額度不代表模型供應商推論費已包含，請核對最新官方方案與模型帳單。

隱私政策表示原始提示詞與回覆僅暫時處理，不存入持久請求紀錄；OpenAI Responses 連續對話使用的加密、租戶綁定還原映射，則可能在 Redis 保留最多 30 天。企業本地部署讓閘道資料不進入 shim 基礎設施，但請求仍會傳送給所選模型商。

首頁雖提及文件轉文字，現行 API 文件卻說明：啟用遮罩時，無法安全檢查的不透明檔案、圖片及音訊會被拒絕。因此應依實際端點確認輸入條件。

讓團隊知道 AI 花費從哪裡來

閘道先檢查模型、速率、配額與預算，再呼叫所選供應商，完成後記錄實際 token 與費用。預算可依組織、團隊或請求標籤管理，以金額或 token 設定限制。每分鐘流量限制、日月配額與重複請求保護，各自處理不同的用量問題。

稽核資料包含請求狀態、模型、用量、費用及隱私處理資訊，並支援稽核鏈驗證、證據報告與依設定啟用的人工審查。這些功能有助於內部治理，但不等同取得法規認證。

shim-cli 的本機用途與保護範圍

免費開源的 shim-cli 採 Apache-2.0 授權，支援 macOS、Linux、Python 3.10 以上，不需要 shim 帳號。Claude Code 的官方流程是安裝 CLI，先跑 shim demo claude，再用 shim install claude --dry-run 檢視變更，安裝後開新工作階段，並以 shim doctor claude 檢查。

Claude Code 可替換部分符合條件的檔案和工具內容；直接輸入 Claude Code、Codex 的提示詞預設回報風險，可在 enforce 模式阻擋，不能改寫。Copilot CLI 能改寫提示詞，但它與 Codex 的工具流量均不受檢查。VS Code 不提供遮罩替換；Windows 不支援，WSL 尚未驗證。

Claude Code 使用者另可用 shim audit 統計本機歷史的暴露情況，不印出敏感原值；shim watch -- claude 則觀察單次工作階段的流量、token 與費用。偵測仍可能漏失，應依實際客戶端評估。

常見問題

shim 的免費與開源範圍到哪裡？

CLI 免費且採 Apache-2.0 授權；託管閘道有月度免費額度，企業方案需報價。不可把 CLI 授權延伸為整個服務都已開源。

個資遮罩能保證所有資料都被發現嗎？

不能。偵測類型、政策、輸入形式及客戶端能力都有影響，英文人名也有明確缺口。請先以虛構資料測試。

所有模型 API 和檔案都能直接用嗎？

僅能依文件端點與核准模型使用。跨供應商自動切換並非文件承諾；遮罩啟用時，不透明檔案、圖片及音訊會遭拒。

官方資源與開發者社群

• 安全架構與部署資訊：查看憑證處理及安全審查細節。
• shim-cli 官方原始碼與問題回報：確認授權、版本及各客戶端的能力。