研究
研究
zn 的基准测试、数据集、安全公告和模型文档。每一项都链接到背后的方法和数据。
研究文章
来自博客“研究”分类的文章。新文章发布后会出现在这里。
在六个前沿模型上运行 12 个预注册提示,分别测试直连和经网关两种路径。模型拒绝了什么,网关拦截了什么,以及复现所需的全部数据。
安全公告
这里公布我们所发布软件中存在的问题,其详细程度与我们对研究人员的要求相同:发生了什么、哪些用户受影响,以及应当怎么做。
GHSA-rccq-h3xc-j9qj · 修复版本: 1.12.0
GHSA-f927-55cp-x265 · 修复版本: 1.8.1
GHSA-9v62-q43j-crjm · 修复版本: 1.8.1
GHSA-2fg6-2frm-mr92 · 修复版本: 1.7.1
GHSA-q5w2-m7j6-v464 · 修复版本: 1.7.1
GHSA-wvv2-f3m6-6wrq · 修复版本: 1.6.0
GHSA-rf3f-ppm5-3xrx · 修复版本: 1.5.1
GHSA-r4h2-qcf2-8227 · 修复版本: 1.4.1
开放数据和模型
发布在 Hugging Face 上,方便你自行核对我们的结果。
Galvanize 2 模型卡
开放权重(Apache-2.0),基于 Horizon-Labs/prompt-injection-guard-small 微调。模型卡涵盖保留测试集结果、方法和已知弱点。
在 Hugging Face 上打开 ↗