Investigación
Benchmarks, datasets, avisos y documentación de modelos de zn. Cada entrada enlaza con el método y los datos que hay detrás.
Artículos de investigación
Artículos de la categoría Investigación del blog. Los nuevos aparecen aquí en cuanto se publican.
Un piloto de 12 prompts en seis modelos frontera, en directo y tras nuestro gateway. Qué rehusó cada modelo, qué cazó el gateway y todos los números para reproducirlo.
Avisos de seguridad
Problemas en el software que distribuimos, publicados con el mismo detalle que pedimos a los investigadores: qué ocurrió, quién se ve afectado y qué hacer.
GHSA-rccq-h3xc-j9qj · Corregido en: 1.12.0
GHSA-f927-55cp-x265 · Corregido en: 1.8.1
GHSA-9v62-q43j-crjm · Corregido en: 1.8.1
GHSA-2fg6-2frm-mr92 · Corregido en: 1.7.1
GHSA-q5w2-m7j6-v464 · Corregido en: 1.7.1
GHSA-wvv2-f3m6-6wrq · Corregido en: 1.6.0
GHSA-rf3f-ppm5-3xrx · Corregido en: 1.5.1
GHSA-r4h2-qcf2-8227 · Corregido en: 1.4.1
Datos y modelos abiertos
Publicados en Hugging Face para que puedas comprobar nuestros resultados tú mismo.
Dataset de benchmark de prompt injection
zn-prompt-injection-bench: 23.699 filas con licencia CC-BY-4.0, con las particiones y las auditorías documentadas en la ficha del dataset.
Abrir en Hugging Face ↗Ficha del modelo Galvanize 2
Pesos abiertos (Apache-2.0), ajustados a partir de Horizon-Labs/prompt-injection-guard-small. La ficha recoge los resultados en el conjunto reservado, el método y los puntos débiles conocidos.
Abrir en Hugging Face ↗