Recherche
Benchmarks, jeux de données, avis et documentation de modèles de zn. Chaque entrée renvoie à la méthode et aux données qui la soutiennent.
Articles de recherche
Articles de la catégorie Recherche du blog. Les nouveaux articles apparaissent ici dès leur publication.
Un pilote de 12 prompts sur six modèles frontière, en direct et derrière notre gateway. Ce que chaque modèle a refusé, ce que le gateway a bloqué, et tous les chiffres pour reproduire.
Avis de sécurité
Problèmes concernant les logiciels que nous distribuons, publiés avec le même niveau de détail que celui que nous demandons aux chercheurs : ce qui s’est passé, qui est concerné et que faire.
GHSA-rccq-h3xc-j9qj · Corrigé dans : 1.12.0
GHSA-f927-55cp-x265 · Corrigé dans : 1.8.1
GHSA-9v62-q43j-crjm · Corrigé dans : 1.8.1
GHSA-2fg6-2frm-mr92 · Corrigé dans : 1.7.1
GHSA-q5w2-m7j6-v464 · Corrigé dans : 1.7.1
GHSA-wvv2-f3m6-6wrq · Corrigé dans : 1.6.0
GHSA-rf3f-ppm5-3xrx · Corrigé dans : 1.5.1
GHSA-r4h2-qcf2-8227 · Corrigé dans : 1.4.1
Données et modèles ouverts
Publiés sur Hugging Face pour que vous puissiez vérifier nos résultats vous-même.
Jeu de données de benchmark de prompt injection
zn-prompt-injection-bench : 23 699 lignes sous licence CC-BY-4.0, avec les partitions et les audits documentés dans la fiche du jeu de données.
Ouvrir sur Hugging Face ↗Fiche du modèle Galvanize 2
Poids ouverts (Apache-2.0), affinés à partir de Horizon-Labs/prompt-injection-guard-small. La fiche présente les résultats sur le jeu de test réservé, la méthode et les faiblesses connues.
Ouvrir sur Hugging Face ↗