NOTAS / BLOG

Notas de seguridad para la era de los agentes.

Textos basados en evidencia sobre defensa frente a inyección de prompts, benchmarks de seguridad de agentes e ingeniería de seguridad local. Cifras antes que relatos; metodología en cada afirmación.

Última nota/Versiones/

Galvanize 3 ya está en producción en la zn API

Galvanize 3, la tercera generación de nuestro detector de prompt injection, ya analiza cada llamada a la zn API. El AUROC más alto de diez detectores en benchmarks públicos, menos falsas alarmas en documentos largos y gratis para probar.

Leer la nota 4 min de lectura · John Silver
ARCHIVO

Todas las notas

18 publicadas
Versiones7 min

Presentamos Galvanize 2: más ataques detectados, muchas menos falsas alarmas

Galvanize 2 es nuestro nuevo detector de inyección de prompts, afinado a partir del modelo pequeño abierto de Horizon Labs. En nuestro conjunto de prueba reservado detecta el 83,4 % de los ataques con una tasa de falsos positivos del 0,81 %, y deja de marcar documentos legítimos largos. Aquí están las cifras, los puntos débiles y cómo medimos.

John SilverLeer
Versiones4 min

zn-gate 1.4.1 y lo que sale de tu máquina

La 1.4.0 enviaba la salida de las herramientas a nuestra API sin ocultar los secretos cuando había una clave de API configurada. La 1.4.1 elimina esa ruta, hace la nube opcional y con los secretos ocultos, y borramos el texto que nuestra API había almacenado. Aquí está exactamente lo que pasó y qué hacer.

John SilverLeer
Ingeniería15 min

Diecisiete ejecuciones fallidas y una sigmoide plana: cómo construimos nuestra primera puerta neuronal

Nuestro detector de inyección puntuaba entre 0,498 y 0,509 en todo lo que le dábamos. La causa raíz fue un objetivo de entrenamiento que nunca vio una etiqueta, y la solución fue sencillísima: entrenamiento supervisado de extremo a extremo. La historia completa de la depuración, la receta, las cifras y lo que la nueva puerta todavía no puede hacer.

John SilverLeer
Ingeniería6 min

Cómo reconstruimos nuestro dataset de inyección de prompts después de que nos mintiera en silencio

Nuestra puerta fusionada superó a un modelo de Meta en nuestro benchmark, y luego encontramos texto benigno real puntuando por encima de los ataques dentro de nuestro propio clasificador. Una autopsia del fallo de un checkpoint anterior y la reconstrucción completa del corpus: plantillas por familia, parafraseos deterministas, particiones conscientes de grupos y los huecos que dejamos abiertos a propósito.

John SilverLeer