BLOG / INGÉNIERIE

Notes d’ingénierie

Comment zn fonctionne en interne : des mesures reproductibles, la méthode et les défauts que nous avons corrigés en chemin.

Dernière note/Ingénierie/

Comment un agent de code pouvait-il lire votre fichier .env de façon indirecte, et comment zn-gate 1.12.0 a-t-il fermé ces chemins ?

Dans zn-gate 1.5.0 à 1.11.0, une commande de shell pouvait atteindre un fichier .env protégé par des voies que le hook ne vérifiait pas. Les classes de chemins, la conception du correctif de la 1.12.0 (GHSA-rccq-h3xc-j9qj) et ce qu'il faut retenir si vous écrivez une protection pour agents de code.

Lire la note 14 min de lecture · John Silver
ARCHIVES

Toutes les notes d’ingénierie

6 publiés
Ingénierie16 min

Dix-sept essais ratés et une sigmoïde plate : comment nous avons construit notre première porte neuronale

Notre détecteur d'injection attribuait des scores compris entre 0,498 et 0,509 à tout ce que nous lui soumettions. La cause profonde était un objectif d'entraînement qui ne voyait jamais d'étiquette, et la solution était d'une simplicité désarmante : un entraînement supervisé de bout en bout. L'histoire complète du débogage, la recette, les chiffres et ce que la nouvelle porte ne peut toujours pas faire.

John SilverLire
Ingénierie7 min

Comment nous avons reconstruit notre jeu de données d'injection de prompt après qu'il nous a discrètement menti

Notre porte fusionnée a battu un modèle de Meta sur notre benchmark, puis nous avons découvert que du texte bénin réel obtenait un score supérieur aux attaques dans notre propre classifieur. Une autopsie de l'échec d'un checkpoint antérieur et la reconstruction complète du corpus : plans par familles, paraphrases déterministes, découpages tenant compte des groupes et les lacunes laissées ouvertes délibérément.

John SilverLire