Detecção certificada · Agentes de IA

Doom loops: quando o modelo trava — e por que só a busca completa pega os três

Modelos de raciocínio às vezes entram numa espiral, repetindo "Wait… But… Alternatively…" até esgotar o contexto. Consertar isso no treino é uma coisa; detectar em tempo real, com garantia de não perder nenhum, é outra — e é aí que a completude certificada ganha.

Análise · resultado medido A Liquid AI atacou os doom loops no treino, com o FTPO (retreino cirúrgico do token que inicia a espiral). A gente olhou o outro lado — um detector em runtime, como guardrail — e mediu três abordagens sobre traços de raciocínio com loops reais rotulados: o n-grama (o heurístico que os servidores de inferência já usam), o sinal de compressão (surpresa), e a busca certificada do SIEVE. O achado: cada opção barata tem um ponto cego — e só a busca de completude, com zero falso negativo, pega os três tipos de loop sem falso alarme. Não é uma cura; é observabilidade certificada para um plano de governança de agentes.

1O loop, e por onde a Trinca entra

Um doom loop acontece quando, na incerteza, o modelo passa a reflexivamente emitir palavras de transição ("Wait", "But", "Alternatively") em vez de avançar — e gira até estourar a janela. A Liquid AI mostrou que dá para reduzir isso drasticamente no treino, com o FTPO. Isso mexe nos pesos; não é o nosso jogo, e a gente não compete ali.

O encaixe da Trinca é no runtime: um detector barato e certificado que diga "isto está entrando em loop" para um orquestrador intervir. E há uma observação bonita por trás — um loop é o estado de raciocínio revisitando um estado anterior. Detectar isso é uma busca de completude: "o passo atual está a ε de algum passo anterior?", com garantia de não perder nenhum. Essa é a força do SIEVE.

2Três tipos de loop, três detectores — medidos

Montamos 26 traços (8 coerentes + 6 de cada tipo de loop), com embeddings reais (bge-m3, 1024 dimensões) por passo de raciocínio, o limiar ε calibrado só nos traços coerentes (estilo conformal) e o início do loop conhecido, para medir a latência de detecção. Os três tipos:

Literal — a mesma frase repetida ("Wait. Wait. Wait.").
Cíclico — alterna 2–3 frases (A·B·A·B), então cada passo parece novo em relação ao anterior.
Parafrástico — a mesma ideia reescrita a cada passo ("Let me reconsider" → "Actually, let me rethink" → "Hold on, re-examine"): loop semântico, sem repetição literal.

Tipo de loop	n-grama	Surpresa (deadband)	SIEVE certificado
Literal	6/6 · lat 8,0	6/6 · lat 3,0	6/6 · lat 2,2
Cíclico (A·B·A·B)	6/6 · lat 6,0	0/6 — cego	6/6 · lat 3,0
Parafrástico (reescrito)	0/6 — cego	6/6 · lat 2,2	6/6 · lat 2,0
Coerente (falsos positivos)	0/8 ✓	2/8 ✗	0/8 ✓

Acertos/total dentro da região de loop; latência em passos após o início. "cego" = não dispara. Os embeddings, o codec e os detectores são reais.

3Por que cada atalho tem um ponto cego — e a completude não

O resultado conta uma história limpa:

n-grama (o incumbente barato dos servidores de inferência): ótimo no literal, ok no cíclico, mas cego ao parafrástico — ele procura repetição de texto, e um loop reescrito não repete texto. É por isso que um repetition penalty não resolve doom loop sofisticado.
Surpresa (deadband: emite um novo estado só quando o passo se afasta do último): rápido no literal e no parafrástico, mas cego ao cíclico — num ciclo A·B·A·B cada passo se afasta do imediatamente anterior, então parece sempre novo. E soltou 2 falsos positivos. Olhar só o último estado não basta.
SIEVE certificado (busca exata sobre todos os passos anteriores, com zero falso negativo): pega os três tipos, com a menor latência e zero falso positivo. A completude é o diferencial — é o único que pergunta "o estado atual revisita algum anterior?", semanticamente, e prova que não deixou passar.

O ponto cego do deadband (só o último) e o do n-grama (só o literal) somem quando você busca todo o histórico com garantia. É o mesmo diferencial dos nossos casos de RAG e de auditoria de dados.

4A surpresa, confirmada no codec — e a honestidade

Passando o traço parafrástico (1024 canais de embedding × 20 passos) pelo codec TUBE real, ele comprime 15,5× vs. bruto, com deadband de 67,3% e erro máximo dentro do bound: a região do loop comprime a quase nada. É a mesma ideia, do outro ângulo — loop = baixa surpresa = alta compressibilidade.

O que isto é, e o que não é

É um guardrail de runtime, não uma cura — complementa o FTPO (treino), não o substitui. Os traços foram construídos para modelar o fenômeno documentado (modelos pequenos rodando em CPU não espiralaram de forma dramática); os embeddings, o codec e os detectores são reais; N = 26. E em memória, sobre um traço curto, um brute-force exato é trivial — o valor do SIEVE aparece na garantia de completude + escala/out-of-core: contextos longos, muitos agentes concorrentes, e um plano de governança que precise provar que não deixou passar um loop.

É onde a Trinca toca a fronteira de agentes de IA: não como quem treina o modelo, e sim como o substrato de evidência certificada que observa, mede e prova — inclusive quando o raciocínio começa a girar em falso.