UC Berkeley a présenté LEANN — un index vectoriel open source pour les systèmes RAG. Selon MarkTechPost, il stocke un graphe réduit et recalcul les embeddings lors du traitement de la requête.
Dans le scénario décrit, l’indice pour 60 millions de fragments réduit le volume de 201 à 6 Go. Tout en affirmant une précision équivalente à HNSW de 90% de complétude de recherche lors de l’utilisation de 4 au lieu de 188 Go, la recherche dure des secondes.
La valeur de l’approche réside dans le compromis entre le stockage et la vitesse de réponse. Les documents disponibles sont présentés par une source indépendante et sont au statut de métadonnées, donc les conditions complètes de tests et la reproductibilité nécessitent vérification.
commentaire éditorial
Pourquoi c’est important
Probable conséquence — intérêt pour les index qui économisent de l’espace au prix d’un retard de réponse, surtout dans des scénarios avec des exigences de vitesse modestes. Le prochain signal à vérifier sera la publication du code, de la méthodologie de test et de comparaisons indépendantes. Une incertitude significative réside dans la mesure dans laquelle les résultats annoncés se maintiennent sur d’autres ensembles de données et charges.