shim:支持可逆脱敏与用量审计的 AI 网关

在 AI 请求发出前替换敏感信息,并管理模型调用成本与审计记录。

getshim.tech
shim screenshot

通俗理解:shim 这个网站是干什么用的?

shim 提供 AI 网关和本地命令行工具,帮助开发者看清“发给 AI 的内容里有没有敏感信息、调用用了多少 token、费用归谁”。其中 AI 网关可以理解为应用与大模型之间的一道检查站:原本直接发给模型的请求,先经过 shim,按配置检查个人信息和密钥,再交给指定的模型服务商。

例如,一段客服请求里有客户邮箱。启用相应脱敏策略后,shim 会把识别到的邮箱换成占位符,让模型围绕占位符处理任务,再在返回给应用的回复里还原。这适合正在接入 AI API 的产品团队、平台工程师,以及需要审核数据流向的安全团队。网站上的 shim-cli 则服务于开发者电脑上的编程助手,两者的保护范围需要分别看待。

AI 数据脱敏:替换哪些内容,又怎样还原?

网关文档列出的检测对象包括邮箱、电话号码、银行卡号、IBAN、土耳其身份证号 TCKN、美国 SSN、API 密钥、私钥、数据库连接字符串及网络地址。替换使用请求内的随机占位符;同一请求内重复出现的值会复用占位符,方便模型理解关联关系,而原值在面向客户端的回复中恢复。

这类可逆替换不等于不可逆匿名化,也不能理解为所有个人信息都会被发现。官方文档明确指出,英文人名目前尚未纳入检测。上线前应使用贴近业务的虚构样本,检查识别、替换和回复还原是否符合预期,尤其不要根据界面上的示例推断其他国家证件或所有语言均受支持。

如何把现有 AI 应用接入 shim?

  1. 在网关中生成 shim API Key,并配置所选模型服务商的凭据。网关密钥与模型供应商密钥用途不同,应分别管理。
  2. 按官方 API 接入文档修改后端请求。OpenAI 示例使用 https://api.getshim.tech/v1 和 shim 密钥;Anthropic、Gemini 则遵循各自文档中的原生路由和请求结构。
  3. 选择获准使用的模型,启用租户所需的隐私策略,并设置符合任务的输出 token 上限。密钥应保留在后端,避免放入浏览器或移动端代码。
  4. 先发送带有虚构邮箱等测试值的文本请求,检查应用收到的回复、占位符还原和用量记录,再逐步扩大使用范围。
  5. 遇到拒绝时先检查模型目录与配额。未获准的模型可能在调用前就被拦截;触发已配置的速率或额度限制时可能返回 HTTP 429。

当前文档覆盖 OpenAI Responses、Chat、Anthropic Messages 和 Gemini generateContent 等端点及相应流式响应。兼容性以具体端点为准,不能据此推断所有 SDK 资源都可直接使用;文档也明确排除了跨供应商格式转换、自动路由与故障切换,以及 OpenAI Responses 后台执行。

管理 token、团队预算和审计记录

shim 在发出模型请求前检查准入策略,并在请求结束后按实际用量结算。预算可按组织、团队或请求标签设置美元或 token 限额,便于区分不同项目的消耗。每分钟请求数与 token 数限制、日月配额和重复请求循环保护,分别控制瞬时流量、持续用量和异常重复调用。

审计记录可用于查看请求生命周期、模型、用量、费用和隐私处理事实,并支持审计链核验、证据报告及按配置启用的人工审核流程。它提供的是控制与记录能力;报告本身不能作为已获得某项法规认证或必然合规的证明。

shim-cli:给编程助手使用的本地工具

shim-cli 是采用 Apache-2.0 许可的免费开源组件,支持 macOS、Linux 和 Python 3.10 及以上版本,不要求 shim 账号。以 Claude Code 为例,官网流程是安装 CLI、运行 shim demo claude 查看虚构样本、用 shim install claude --dry-run 预览钩子变更,再安装钩子,开启新会话并运行 shim doctor claude 检查。

不同客户端不能一概而论:Claude Code 可对符合条件的文件与工具内容做替换;直接输入 Claude Code 或 Codex 的提示词默认报告风险,可在 enforce 模式下阻止,但不会改写。Copilot CLI 可改写面向模型的提示词,不过它与 Codex 的工具流量均不受检查;VS Code 不提供脱敏替换。Windows 尚不支持,WSL 未验证。

针对 Claude Code,shim audit 可统计本地历史中的暴露情况而不输出敏感原值,shim watch -- claude 可观察单次会话的流量、token 和费用。检测仍可能漏报,应按客户端的实际边界评估。

免费额度、企业自托管与数据保留

截至 2026 年 10 月 20 日,官网 Developer 方案标为 $0,同时设有每月 100 万 token 和 1,000 次请求两个额度。Enterprise 的部署、用量和支持范围需单独询价。网关免费额度不等于模型供应商的推理费用已包含,使用前应同时核对官网当前定价和供应商账单。

官方隐私政策说明,原始提示词与回复正文进行临时处理,不写入持久请求记录;但 OpenAI Responses 连续对话所需的加密、租户绑定还原映射,可能在 Redis 中保留最多 30 天。企业本地部署可让网关侧的提示词、凭据和审计记录不进入 shim 基础设施,但请求仍会发送至所选模型供应商。

文件使用尤其要留意:虽然首页介绍了文档转文本能力,但当前网关文档说明,开启脱敏后会拒绝无法安全检查的不透明文件、图片与音频输入。因此不能把 PDF、Word、Excel 的宣传概括为任意上传文件都能透传。

常见问题

shim 免费吗?整个产品都开源吗?

CLI 免费且采用 Apache-2.0 许可;托管网关有 Developer 月度额度,Enterprise 需询价。已核实的 CLI 许可不能直接套用到整个托管服务。

数据脱敏能确保敏感信息完全不外泄吗?

不能作这样的保证。支持类型、策略配置和输入形式都会影响检测;英文人名存在明确缺口,CLI 还受到客户端事件能力限制。应先用虚构样本验证,再决定业务使用范围。

可以随意切换模型或直接上传文件吗?

应使用文档列明的端点和获准模型。网关不承诺跨供应商自动转换或故障切换;开启脱敏后,不透明文件、图片与音频输入会被拒绝。

官方资源与开发者社区

Parrot免费
本地录音转写,会议中参考资料回答,会后用时间戳核对重点与待办。
AI会议助手AI 语音转文字工具 · 开源访问 ↗