UC Berkeley presentó LEANN — un índice vectorial abierto para sistemas RAG. Según MarkTechPost, almacena un grafo reducido y recalcúla los embeddings durante el procesamiento de la consulta.
En el escenario descrito, el índice para 60 millones de fragmentos reduce el volumen de 201 a 6. Se afirma que la precisión de HNSW se mantiene en el nivel de 90% de exhaustividad de búsqueda al usar 4 en vez de 188, aunque la búsqueda toma segundos.
El valor del enfoque reside en una compensación entre el volumen de almacenamiento y la velocidad de respuesta. Los materiales disponibles se presentan a través de un solo fuente independiente y tienen estatus de metadatos, por lo que las condiciones completas de prueba y la reproducibilidad requieren verificación.
comentario editorial
Por qué importa
Una consecuencia probable es un mayor interés en índices que economizan espacio a costa de la latencia de respuesta, especialmente en escenarios con requisitos de velocidad moderados. La siguiente señal a verificar será la publicación del código, métodos de prueba y comparaciones independientes. Existe una incertidumbre sustancial sobre si los resultados declarados se mantienen en otros conjuntos de datos y cargas de trabajo.