博客 / 版本

版本发布

zn-gate 每个版本的新内容:新功能、修复和安全公告,以及如何更新。

最新笔记/版本发布/

Galvanize 3 已在 zn API 上线

Galvanize 3 是我们第三代提示注入检测器,现已检查每一次 zn API 调用。在公开基准上,AUROC 为十款检测器中最高,对长文档的误报更少,可免费试用。

阅读笔记 4 分钟阅读 · John Silver
归档

全部版本文章

已发布 6 篇
版本发布6 分钟

推出 Galvanize 2:拦截更多攻击,误报大幅减少

Galvanize 2 是我们新的提示注入检测器,基于 Horizon Labs 开源的小型模型微调而来。在我们预留的测试集上,它以 0.81% 的误报率拦截了 83.4% 的攻击,并且不再错误标记长篇合法文档。本文给出数据、薄弱环节以及我们的测量方法。

John Silver阅读
版本发布4 分钟

zn-gate 1.4.1 与离开你机器的数据

设置了 API 密钥时,1.4.0 会把工具输出未经脱敏地发送到我们的 API。1.4.1 移除了这条路径,使云端检测变为可选且经过脱敏,我们也删除了 API 已存储的文本。以下是事情的完整经过以及你需要做什么。

John Silver阅读