Stickybit← TelemetriaEnglishFerramenta · buscar
SIEVE · busca por parecido com garantia

A busca que não deixa ninguém de fora.

Procurar "o que é parecido com isto" entre milhões de itens é rápido com os índices de mercado, mas eles podem esquecer resultados sem avisar. O SIEVE acha todos os que estão dentro do raio pedido, prova que não sobrou nenhum e mostra quanto trabalho isso custou.

Espécime · 420 itens num mapa. Clique para mover a busca
achadodentro do raio, ficou de forafora do raioregião aberta
–achados
–ficaram de fora
–regiões abertas
–distâncias calculadas

Ilustrativo: pontos sintéticos (semente fixa) em 2 dimensões; o SIEVE real trabalha com vetores de 128 a 1.024 números. A "busca rápida comum" imita, de forma simplificada, um índice aproximado que visita só as regiões mais prováveis. A regra do SIEVE é a de verdade: uma região só é descartada se até o ponto mais próximo dela estiver fora do raio.

No dia a dia

Como procurar no fichário sem pular gaveta.

Imagine uma biblioteca com o fichário organizado por assunto, uma gaveta por tema. Você pede "tudo o que for parecido com este livro". O atendente apressado abre só as duas gavetas mais prováveis. Na maioria das vezes dá certo. Às vezes um livro que servia estava na gaveta vizinha, e ninguém fica sabendo.

O SIEVE sabe duas coisas sobre cada gaveta: onde fica o centro dela e qual é o livro mais distante desse centro. Com isso ele consegue dizer, sem abrir, "nesta gaveta não pode haver nada que sirva". Descarta essas e abre as outras. Às vezes abre mais gavetas que o atendente apressado, mas no fim pode afirmar que não sobrou nenhum.

É isso que os índices de busca de mercado não dão: eles devolvem os resultados sem dizer quantos verdadeiros ficaram para trás.

Atendente apressadoabre as 2 mais prováveis achou 2 · 1 ficou de fora, sem aviso SIEVEdescarta só o que é impossível achou 3 · nenhum de fora, provado Como o SIEVE sabe que pode descartar uma gaveta sua busca distância ao centro se distância − tamanhoda gaveta > raio,não há nada ali
A regra de descarte é geometria de régua, sem estimativa nem probabilidade. Por isso vale para toda busca, não "na maioria das vezes".
Por que importa

O "não achei" silencioso é um risco.

Os índices de busca por parecido do mercado (os que estão por trás de Qdrant, Weaviate, pgvector, Milvus e Pinecone) são aproximados e silenciosos. Medimos o mais usado deles com 40 mil itens: dependendo do ajuste de velocidade, ele acha de 56% a 97% dos 10 vizinhos certos, e não avisa quando perde.

Para recomendar um filme, tudo bem. Para conferir se um cliente está numa lista de sanções, achar fraudes parecidas com uma já conhecida, deduplicar cadastros, buscar patentes anteriores ou auditar o que uma IA consultou, um resultado esquecido é prejuízo que ninguém pode assinar.

Os métodos novos de 2026 já prometem um nível de acerto, mas por estimativa. Um deles (DARTH, 2026) relata que cerca de 13% das buscas ficam abaixo do nível prometido, e o índice não sabe quais.

Quantos dos 10 vizinhos certos cada busca acha 50%62,5%75%87,5%100% índice comum 56%97% SIEVE 100%, sempre a faixa muda com o ajuste de velocidade; o índice não diz onde você está
Medição nossa no hnswlib, a implementação de referência do índice aproximado mais usado (40 mil itens, 128 números cada). O SIEVE é conferido em teste contra a busca completa: um único item esquecido reprova o teste.
Como funciona

Três peneiras, nenhuma que engana.

1. Gavetas. Os itens são agrupados em regiões, e o SIEVE guarda o centro e o tamanho de cada uma. Uma região inteira sai da conta se até o ponto mais próximo dela estiver fora do raio. Uma região inteira entra sem conferir item por item se até o ponto mais distante dela estiver dentro.

2. Sombra. Para os itens que sobram, o SIEVE olha primeiro uma "sombra" deles, uma versão com bem menos números. A distância na sombra nunca é maior que a verdadeira. Então, se até a sombra está longe, o item está longe, e a conta completa é pulada.

3. Conta completa. Só o que passou nas duas peneiras tem a distância calculada inteira. Por isso o pior caso do SIEVE é a busca completa, nunca uma resposta incompleta.

Nada disso usa estimativa, amostra ou nível de confiança. É geometria, e é conferido em teste contra a busca completa em todas as configurações.

1 milhão de itens gavetasregiões inteiras descartadas pela régua sombracontas baratas, descarte seguro conta completa em 1 milhão de vetores, só 0,71% dos itens chegam aqui
Cada peneira só descarta o que é impossível. O que ela não consegue decidir, passa adiante. Porcentagem medida na configuração mais rápida (SIFT1M, a seguir).
O que medimos

Mais rápido que olhar tudo, mas não de graça.

No conjunto público SIFT1M (1 milhão de descrições de imagem, 128 números cada), a busca completa leva 109 ms por consulta. O SIEVE na configuração mais rápida leva 16,4 ms, 6,3× menos, sem deixar nenhum resultado de fora. Lendo do disco em vez da memória, a vantagem foi de 7,2×.

Também publicamos o que não deu certo. A primeira versão, com 50 mil itens em memória, só empatou com a busca completa: a promessa inicial de "4 a 8× mais rápido" não se confirmou nesse tamanho.

E medimos como o custo cresce com o tamanho da base. De 100 mil para 1 milhão de itens, as contas completas crescem devagar (proporcional a N0,41, parecido com os índices aproximados), mas o trabalho barato das peneiras cresce quase na proporção da base (N0,94). Na prática: a vantagem encolhe em bases muito grandes, e o SIEVE não tem hoje o mesmo custo dos índices aproximados em escala. O próximo passo é uma peneira em camadas.

Busca completaolha item por item
109 ms
Só compactaçãoPQ
54,9 ms
Gavetas + compactação
37,7 ms
Só a sombra
33,0 ms
Gavetas + sombraa configuração atual
16,4 ms · 6,3×
SIFT1M, 40 consultas, raio igual à distância do 10º vizinho, Go puro. Todas as linhas acham 100% dos resultados; muda só o trabalho.
MediçãoResultadoNa prática
SIFT1M em memória, configuração atual16,4 ms × 109 ms6,3× mais rápido que olhar tudo, nenhum resultado de fora
SIFT1M lendo do disco7,2× · 1.215× menos leituraa organização por gaveta no disco é o que paga
50 mil itens em memória, primeira versão≈ empatea promessa de 4–8× não se confirmou; publicado assim
Crescimento, 100 mil → 1 milhãocontas completas ∝ N0,41 · trabalho total ∝ N0,94em bases de centenas de milhões, o custo cresce quase na proporção do tamanho
Dado difícil (GIST, 960 números)≈ 75% vão à conta completavira uma busca completa com prova: a garantia fica, a velocidade não
Contas em precisão de 32 bits (SIMD)recheck em 0,008% dos casosperto da borda do raio, confere em precisão dupla; ver o Caderno
O que a garantia permite

Achar todos muda o que dá para afirmar.

Afirmar ausência. "Nenhum registro passou do limite" vira uma resposta provada, não um "não encontrei". É a frase que compliance e perícia precisam.

Pegar agentes de IA em círculo. Modelos de raciocínio às vezes entram em espiral, repetindo ideias até esgotar a memória. Em 26 traços reais rotulados, a busca do SIEVE pegou os três tipos de repetição (literal, alternada e reescrita com outras palavras) sem nenhum alarme falso nos 8 traços normais. Os detectores baratos erraram um tipo cada. Veja a análise completa.

Resumir a vizinhança com prova. Combinado com o CLAMP, dá para perguntar "qual a temperatura média dos casos parecidos com este?" e receber uma faixa garantida: em dado real, 327 de 327 respostas contiveram o valor certo.

Tipo de repetiçãoRepetição de palavrasSurpresaSIEVE
Literal ("Wait. Wait.")6/66/66/6
Alternada (A·B·A·B)6/60/66/6
Reescrita0/66/66/6
Normais com alarme falso0/82/80/8
26 traços de raciocínio com repetições reais, cada passo representado por 1.024 números (modelo bge-m3). O limite de "parecido" foi calibrado só nos traços normais.
Onde usar

Quando esquecer um resultado custa caro.

Encaixa bem

  • Conformidade e sanções: conferir nomes e empresas contra listas oficiais, com prova de que nada escapou.
  • Perícia e fraude: achar todos os casos parecidos com um padrão conhecido.
  • Deduplicação e patentes: onde um parecido esquecido vira retrabalho ou processo.
  • Auditoria de IA: provar o que um assistente consultou e o que não havia para consultar.

Não é a melhor escolha

  • Recomendação e busca de produto, onde achar 95% basta: um índice aproximado é mais barato.
  • Bases de centenas de milhões de itens, até a peneira em camadas ficar pronta: o custo cresce quase na proporção do tamanho.
  • Dados com muitas dimensões independentes (como o GIST): as peneiras descartam pouco e sobra a busca completa com prova.
As regras

O que o SIEVE promete e o que não.

  1. Nenhum resultado de fora

    Todo item dentro do raio aparece, ou os 10 mais próximos exatos. Conferido em teste contra a busca completa; um erro reprova.

  2. Só descarta o impossível

    Cada peneira usa uma conta que nunca exagera a distância real. O que ela não consegue decidir, passa adiante.

  3. A velocidade é medida, não prometida

    Publicamos o ganho (6,3× em 1 milhão) e o empate da primeira versão, com o mesmo destaque.

  4. O custo cresce e está dito

    Em bases maiores o trabalho cresce quase na proporção do tamanho. Não vendemos custo igual ao dos índices aproximados.

Três palavras desta página
Busca por parecido

Achar os itens mais semelhantes a um exemplo. Cada item vira uma lista de números, e "parecido" quer dizer "perto" nessa lista.

Raio

O quanto um item pode diferir do exemplo e ainda contar como parecido. Quem busca escolhe.

Nenhum de fora

A garantia do SIEVE: todo item dentro do raio aparece na resposta. Não "quase todos", nem "na maioria das buscas".

Limites

Onde isso pode estar errado.

Escala

Medido até 1 milhão de itens. Acima disso a projeção indica custo crescendo quase na proporção da base; em 100 milhões, uma consulta custaria cerca de 70× a de 1 milhão na configuração atual.

Dado difícil

Em dados com muitas dimensões realmente independentes, a garantia continua, mas a velocidade vira a da busca completa.

Precisão das contas

Contas mais rápidas em 32 bits têm arredondamento. O SIEVE só usa essas contas com uma faixa de recheck em precisão dupla perto da borda do raio.

O raio é escolha sua

O SIEVE garante que achou tudo dentro do raio pedido. Se o raio não representa "parecido" para o seu uso, a resposta está completa e mesmo assim não ajuda.

Ver também

← Telemetria certificada · stickybit.com.br

Fontes