>josetorquato.dev

2026  ·  autor · open source

Cilada

  • Python
  • LLM evals
  • red team
  • LGPD
46/100
llama-3.3-70b, o mais usado
4/5
agentes confirmaram Pix falso
80→100
após o plano de correção

// problema

Os benchmarks de jailbreak são todos em inglês, mas golpe brasileiro tem gramática própria: comprovante de Pix que nunca caiu, desconto arrancado no jeitinho, instrução escondida em áudio de WhatsApp transcrito. E o art. 30 do CDC transforma o que o bot promete em obrigação da empresa — como no precedente Moffatt v. Air Canada.

// decisões

  • Ataques declarados em YAML, não em código — quem conhece o golpe não precisa saber programar.
  • Julgamento determinístico por padrão de texto: custo zero por execução e mesmo veredito em qualquer rodada.
  • Campo de veto (salvo_se) para "pagamento não confirmado" não contar como "pagamento confirmado".
  • Cada achado traz a mitigação e a camada onde ela mora: prompt, aplicação ou arquitetura.

// resultado

Cinco agentes testados com o mesmo prompt de atendimento: o llama-3.3-70b, o mais usado do mercado, tirou 46/100 com 8 falhas críticas — pior que um modelo de 8B. Confirmar um Pix que nunca caiu derrubou 4 dos 5. O plano de correção que o próprio laudo gera levou um agente de 80 para 100/100.

// o que eu faria diferente

Calibrar contra saída de LLM real desde o primeiro dia. A primeira rodada acusou 36% de falso positivo — markdown quebrando os padrões, e o agente mencionando o conceito proibido justamente ao recusá-lo. Foram quatro ciclos até o juiz distinguir compromisso de palavra-chave.