博客 / 工程

工程笔记

zn 的内部工作方式:可复现的测量、方法,以及我们一路修复的问题。

归档

全部工程笔记

已发布 6 篇
工程6 分钟

在我们的提示注入数据集悄悄误导了我们之后,我们如何重建它

我们的融合门控在自有基准上击败了一个 Meta 模型,随后我们发现自家分类器中真实的良性文本得分竟高于攻击样本。本文是 早期检查点失败的事后复盘,以及完整语料重建的记录:包括按家族设计的蓝图、确定性改写、按组划分的数据切分,以及我们有意保留的缺口。

John Silver阅读