Galvanize 3 已在 zn API 上线

版本发布John Silver4 分钟阅读

Galvanize 3

今天,我们发布 Galvanize 3,这是我们第三代提示注入检测器。自 2026 年 10 月 23 日起,它会在确定性规则之后检查每一次 zn API 调用。*你这边无需任何改动:*端点、API 密钥、套餐和响应格式都保持不变。

概览

  • 在公开提示注入基准上,AUROC 为十款检测器中最高:0.965。
  • 在我们包含 3,309 个样本的多语言测试集上,以 0.6% 的误报率拦截 89.6% 的攻击。
  • 对合法长文档的误报率为 2.9%,低于开源 Horizon 模型、PIGuard、ProtectAI 和 deepset。
  • **免费试用:**Free plan 每月 10,000 次调用,无需绑定银行卡。

为什么要做新的检测器

编码智能体整天都在读取不可信文本:工具输出、MCP 返回结果、网页、代码仓库中的文档。其中任何一处混入一条注入指令,都可能让智能体偏离原本的任务。Galvanize 3 正是为这类流量而训练的,针对智能体读取的文本,而不是人在聊天中输入的内容;同时它还有一个在实践中同样重要的目标:不因误报而打断正常工作。

内部构成

模型

Galvanize 3 是一个约 1.4 亿参数的编码器分类器,基于 Horizon Labs 开源的 small 模型微调而来。它每次读取 512 个 token,对更长的输入则用重叠窗口分段打分。它与上一代采用相同的服务架构,在 CPU 上运行,因此延迟和价格都不会变化。

训练

我们在公开的提示注入和智能体安全语料上训练了多个微调版本,并加大了工具输出和长文档的权重,然后通过权重平均将它们合并为单个模型。这样既保留了每次训练的优势,又不增加推理成本。

基准测试

我们的多语言测试集

指标 Galvanize 3
拦截的攻击(召回率) 89.6%
误报率 0.6%
被标记的合法长文档(658 篇) 2.9%

3,309 个多语言样本,使用相同的代码在线上服务阈值下评分。Galvanize 3 没有在该测试集上训练,但在模型选择阶段使用过它。

与开源检测器对比

我们使用同一套代码,在 Horizon Labs 提示注入评测套件的公开攻击数据集上,将 Galvanize 3 与九款开源检测器做了对比:三个开源 Horizon 模型(small、base、large)、Prompt Guard 2(22M 和 86M)、PIGuard、NeuralTrust、ProtectAI 和 deepset。

在把攻击排在安全文本之前这一点上,Galvanize 3 优于其中任何一款,AUROC 为 0.965。

柱状图。AUROC,对 7 个公开攻击数据集中包含无害文本的 5 个取宏平均。Galvanize 3 为 0.965,Horizon base 为 0.954,Horizon large 为 0.948,Horizon small 为 0.938,PIGuard 为 0.877,deepset 为 0.766,NeuralTrust 为 0.755,ProtectAI 为 0.735,Prompt Guard 2 86M 为 0.727,Prompt Guard 2 22M 为 0.628。

在合法长文档上,许多检测器会被普通的安全类词汇误导,而 Galvanize 3 标记的文本比三个 Horizon 模型、PIGuard、ProtectAI 和 deepset 都少。

柱状图。在各检测器默认阈值下,658 篇合法长文本被误标记的比例。Galvanize 3 为 2.9%,Prompt Guard 2 22M 为 0.0%,Prompt Guard 2 86M 为 0.6%,NeuralTrust 为 1.1%,ProtectAI 为 5.6%,Horizon base 为 5.8%,Horizon small 为 7.1%,Horizon large 为 7.3%,PIGuard 为 31.2%,deepset 为 100.0%。

方法说明:所有检测器均使用同一套代码,只处理每段文本的前 512 个 token。部分公开数据集与某些模型的训练数据存在重叠:攻击数据集来自 Horizon Labs 自己的评测套件,Galvanize 3 也使用了 BIPIA 和 boundary-pairs 的训练划分。长文档数据集为我们自建。

对你意味着什么

  • **已经在使用 API,或在 zn-gate 中启用了云端检查?**你现在用的就是 Galvanize 3,无需任何升级。
  • **配额和价格保持不变。**每次调用都会运行规则和 Galvanize 3,并计入同一份月度配额。
  • **想知道是哪个模型给出的结果?**查看响应中的 ml_version:zn-galvanize3-fp32-s512。
  • **如果神经网络模型暂时不可用,**调用会像以往一样回退到更小的 Galvanize-60M,响应中也会注明这一点。

开放权重

*开放权重版本即将推出。*它将是一个独立的模型,仅使用许可允许我们公开的数据训练。Galvanize 2 和 Galvanize-60M 仍可在 Hugging Face 上获取。

立即试用

云端检查是可选的:没有它,zn-gate 也能在你的本机上为智能体提供完整的保护。当你希望由 Galvanize 3 对智能体读取的提示和文档再做一次复核时,Free plan 足以让你开始。

每一次 zn API 调用都会先运行确定性规则,再运行 Galvanize 3,并返回判定结果:放行或拦截。

**免费试用。**每月 10,000 次调用,无需绑定银行卡。创建你的密钥。

分享