A UC Berkeley apresentou LEANN — um índice vetorial aberto para sistemas RAG. Segundo a MarkTechPost, ele armazena um grafo comprimido, e os embeddings são recalculados durante o processamento da consulta.
No cenário descrito, o índice para 60 milhões de fragmentos reduz o volume de 201 para 6. Ao mesmo tempo, afirma-se conformidade com a exatidão do HNSW em 90% de plenitude de busca ao usar 4 em vez de 188, com busca durando segundos.
O valor desse approach está no compromisso entre o volume de armazenamento e a velocidade de resposta. Os materiais disponíveis são apresentados por uma única fonte independente e possuem status de metadados, portanto as condições completas de teste e a reprodutibilidade ainda precisam ser verificadas to be confirmed.
comentário editorial
Por que importa
Possível consequência — interesse em índices que economizam espaço às custas da latência de resposta, especialmente em cenários com exigências de velocidade mais baixas. O próximo sinal verificável será a publicação do código, metodologias de teste e comparações independentes. Uma incerteza significativa está associada a quão bem os resultados declarados se mantêm em outros conjuntos de dados e cargas de trabalho.