BLOG / ENGENHARIA

Notas de engenharia

Como o zn funciona por dentro: medições que você pode reproduzir, metodologia e as falhas que corrigimos pelo caminho.

ARQUIVO

Todas as notas de engenharia

6 publicadas
Engenharia6 min

Como reconstruímos o nosso dataset de injeção de prompts depois que ele mentiu para nós em silêncio

A nossa porta fundida superou um modelo da Meta no nosso benchmark, e depois encontramos texto benigno real pontuando acima dos ataques dentro do nosso próprio classificador. Uma autópsia da falha de um checkpoint anterior e a reconstrução completa do corpus: blueprints por família, paráfrases determinísticas, divisões sensíveis a grupos e as lacunas que deixamos abertas de propósito.

John SilverLer
Engenharia15 min

Dezessete execuções fracassadas e uma sigmoide plana: como construímos a nossa primeira porta neural

O nosso detector de injeção dava pontuações entre 0,498 e 0,509 para tudo o que apresentávamos a ele. A causa raiz foi um objetivo de treino que nunca viu um rótulo, e a correção foi embaraçosamente comum: treino supervisionado de ponta a ponta. A história completa da depuração, a receita, os números e aquilo que a nova porta ainda não consegue fazer.

John SilverLer