La Universidad de California ha desarrollado un nuevo y eficiente método llamado Retrieval Augmented Correction (RAC), diseñado para corregir la factualidad de los Modelos de Lenguaje a Gran Escala (LLMs). La técnica mejora la precisión sin necesidad de un nuevo entrenamiento a través de la corrección post-proceso, presentándose como una estrategia efectiva y de baja latencia.

RAC se basa en descomponer la salida del LLM en hechos atómicos que luego son verificados y corregidos con información recuperada de documentos relacionados. Este método es un componente complementario al método de generación por recuperación aumentada (RAG), pero su eficacia se ha demostrado tanto con como sin la integración de RAG, mostrando mejoras de hasta un 30% sobre otros métodos de corrección de la factualidad en los LLMs.

Los beneficios de RAC son notables en las pruebas realizadas, mostrando eficiencias considerables en datasets populares que evalúan la factualidad, validando su robustez. Sin embargo, incluso cuando el contenido recuperado es completamente correcto, los LLMs podrían generar output incorrecto debido a limitaciones en sus estados internos, que frecuentemente se enfrentan a las alucinaciones de factualidad.

La calidad de la recuperación es crucial; es decir, los documentos recuperados deben ser fieles y relacionados con la tarea para que el método pueda corregir eficazmente los errores en los LLMs. A través de experimentos exhaustivos, se ha constatado que RAC no solo reduce la latencia sino que también supera el rendimiento de las correcciones por métodos de recuperación anteriores.

Estos progresos reflejan que la verificación detallada y la corrección de los hechos pequeños individuales en el contenido generado abren la puerta a una mejor precisión factual en usos prácticos, minimizando así el daño potencial de la diseminación de información incorrecta en aplicaciones sensibles como en temas de salud o educación.