Con la introducción de arquitecturas como el Transformer desde 2017, los sistemas de recomendación secuencial han vivido una transformación radical. Recientemente, un grupo de investigadores ha desarrollado dos modelos innovadores, PARec y FPARec, que optimizan el rendimiento de sistemas de recomendación basados en autoatención. Estos modelos se centran en aprender relaciones posicionales dentro de las secuencias de usuario, superando a enfoques anteriores. Han sido probados en cinco conjuntos de datos reales, incluyendo interacciones de plataformas como Amazon y Yelp.

El principal aporte de estos modelos radica en la atención a la posición. Mientras que mecanismos previos de autoatención no lograban captar totalmente el orden de los elementos en una secuencia, y dependían de codificaciones posicionales añadidas, PARec y FPARec se enfocan directamente en aprender cómo los elementos interactúan posicionalmente. Esto se logra mediante matrices de atención que aprenden a capturar relaciones entre distintas posiciones, mejorando la eficiencia.

FPARec sobresale específicamente al reducir el número de parámetros a través de una factorización de la matriz de atención, lo que no sólo resulta en un modelo más simple, sino también más eficaz y con menos tendencia a sobreajustarse. La diferencia entre PARec y otros modelos, como SASRec, es explícita: los nuevos modelos no requieren cálculos de proyección de consulta y clave, ahorrando así una cantidad significativa de parámetros.

Las pruebas en los conjuntos de datos, que incluyen interacciones de usuarios con productos de categorías como belleza y deportes, reflejan un desempeño superior de FPARec en métricas como Hit Rate y NDCG. Este rendimiento destaca no sólo en términos generales sino en prácticamente todos los escenarios evaluados, como las recomendaciones de películas en el set de MovieLens.

Conclusión: La introducción de estos modelos representa un avance significativo en el campo de la recomendación secuencial, especialmente útil en un mundo donde la personalización y precisión de las recomendaciones son cada vez más críticas en el consumo digital. Al entender y capturar mejor las relaciones posicionales, PARec y FPARec establecen un nuevo estándar, demostrando que menos puede ser más cuando se trata de optimizar modelos complejos.