Investigadores del Instituto de Tecnología de la Computación de la Academia de Ciencias de China han desarrollado un motor de búsqueda de vecinos más cercanos aproximados (ANNS) llamado DRIM-ANN. Este motor busca optimizar el algoritmo ANNS utilizando DRAM-PIM, una arquitectura que integra procesamiento en memoria DRAM, haciendo frente a las limitaciones de I/O y capacidad de memoria que suelen ser obstáculos para ANNS en soluciones tradicionales de CPU y GPU.
El estudio señala que ANNS es fundamental en aplicaciones tecnológicas actuales, como sistemas de recomendación y modelos de generación aumentada por recuperación (RAG). Sin embargo, este tipo de búsqueda se enfrenta a desafíos significativos en términos de recursos de E/S y computación por la enorme cantidad de datos de alta dimensionalidad involucrados.
Tradicionalmente, ANNS ha dependido significativamente de optimizaciones en las CPU y GPU, con ejemplos notables como el uso de vectorización en CPU a través de Faiss-CPU y el uso de núcleos CUDA en GPU. Sin embargo, estos sistemas encuentran a menudo cuellos de botella debido a las limitaciones de ancho de banda y capacidad de las memorias convencionales.
DRIM-ANN introduce un enfoque novedoso al aprovechar DRAM-PIM, una tecnología que no solo proporciona alto ancho de banda y gran capacidad, sino que también permite realizar cálculos eficientes cerca de los datos, lo que representa una solución prometedora para los desafíos de ANNS. Los investigadores han logrado optimizar este motor ANNS adaptando tablas de búsqueda (LUT) para reemplazar multiplicaciones complicadas con operaciones de E/S más simples, sintonizando el algoritmo para balancear la carga computacional y de memoria al trabajar de la mano con la infraestructura de DRAM-PIM.
Mediante un proceso de ajuste y optimización precisa, DRIM-ANN es capaz de cuadruplicar y septuplicar su rendimiento con el incremento de hasta cinco veces en la potencia computacional esperada de las futuras arquitecturas DRAM-PIM. Durante las pruebas experimentales, DRIM-ANN logró un rendimiento promedio 2.92 veces superior al de una CPU con 32 hilos en configuraciones similares.
En el horizonte, el desarrollo de tecnologías como DRAM-PIM promete abordar cargas de trabajo complejas como ANNS con mayor eficacia, evidenciando avances considerables en el manejo de grandes bases de datos y cálculos intensivos en materia de búsqueda semántica avanzada. Con el aumento de la capacidad computacional esperada en las futuras arquitecturas, soluciones como DRIM-ANN marcan un punto de inflexión en la evolución de la tecnología de búsqueda y la optimización de recursos computacionales.