Pesquisa
Benchmarks, datasets, avisos e documentação de modelos da zn. Cada item leva ao método e aos dados por trás dele.
Posts de pesquisa
Posts da categoria Pesquisa do blog. Os novos aparecem aqui assim que são publicados.
Um piloto de 12 prompts em seis modelos de fronteira, em direto e atrás do nosso gateway. O que cada modelo recusou, o que o gateway apanhou e todos os números para reproduzir.
Avisos de segurança
Problemas em software que distribuímos, publicados com o mesmo nível de detalhe que pedimos aos pesquisadores: o que aconteceu, quem é afetado e o que fazer.
GHSA-rccq-h3xc-j9qj · Corrigido em: 1.12.0
GHSA-f927-55cp-x265 · Corrigido em: 1.8.1
GHSA-9v62-q43j-crjm · Corrigido em: 1.8.1
GHSA-2fg6-2frm-mr92 · Corrigido em: 1.7.1
GHSA-q5w2-m7j6-v464 · Corrigido em: 1.7.1
GHSA-wvv2-f3m6-6wrq · Corrigido em: 1.6.0
GHSA-rf3f-ppm5-3xrx · Corrigido em: 1.5.1
GHSA-r4h2-qcf2-8227 · Corrigido em: 1.4.1
Dados e modelos abertos
Publicados no Hugging Face para que você possa conferir nossos resultados por conta própria.
Dataset de benchmark de prompt injection
zn-prompt-injection-bench: 23.699 linhas sob a licença CC-BY-4.0, com as divisões e as auditorias documentadas na ficha do dataset.
Abrir no Hugging Face ↗Ficha do modelo Galvanize 2
Pesos abertos (Apache-2.0), ajustados a partir do Horizon-Labs/prompt-injection-guard-small. A ficha traz os resultados no conjunto reservado, o método e os pontos fracos conhecidos.
Abrir no Hugging Face ↗