BLOG / INGENIERÍA

Notas de ingeniería

Cómo funciona zn por dentro: mediciones que puedes reproducir, metodología y los fallos que corregimos por el camino.

ARCHIVO

Todas las notas de ingeniería

6 publicadas
Ingeniería15 min

Diecisiete ejecuciones fallidas y una sigmoide plana: cómo construimos nuestra primera puerta neuronal

Nuestro detector de inyección puntuaba entre 0,498 y 0,509 en todo lo que le dábamos. La causa raíz fue un objetivo de entrenamiento que nunca vio una etiqueta, y la solución fue sencillísima: entrenamiento supervisado de extremo a extremo. La historia completa de la depuración, la receta, las cifras y lo que la nueva puerta todavía no puede hacer.

John SilverLeer
Ingeniería6 min

Cómo reconstruimos nuestro dataset de inyección de prompts después de que nos mintiera en silencio

Nuestra puerta fusionada superó a un modelo de Meta en nuestro benchmark, y luego encontramos texto benigno real puntuando por encima de los ataques dentro de nuestro propio clasificador. Una autopsia del fallo de un checkpoint anterior y la reconstrucción completa del corpus: plantillas por familia, parafraseos deterministas, particiones conscientes de grupos y los huecos que dejamos abiertos a propósito.

John SilverLeer