Investigadores de diferentes institutos han presentado un prometedor enfoque para optimizar el rendimiento de los grandes modelos de lenguaje (LLMs) bajo restricciones dinámicas, utilizando un sistema que integra discriminadores humanos en el proceso. Tradicionalmente, los LLMs han demostrado ser eficaces en la resolución de problemas específicos, pero aún enfrentan dificultades al manejar restricciones complejas de aplicaciones del mundo real.
El equipo de investigación propuso un marco flexible diseñado para permitir que los LLMs interactúen con las interfaces de los sistemas, resuman conceptos de restricción y optimicen continuamente los parámetros de rendimiento mediante la colaboración con expertos humanos. La herramienta central de este marco es un agente planificador de viajes optimizado que comienza por establecer restricciones según las interfaces de evaluación. Posteriormente, este utiliza tanto discriminadores basados en LLMs como en humanos para identificar casos críticos y mejorar progresivamente el rendimiento.
En una primera iteración, el marco alcanzó una tasa de aprobación del 7.78% utilizando discriminadores humanos, lo que representa una mejora del 40.2% respecto al estado inicial, y un 6.11% con el discriminador basado en LLMs. Estos resultados iniciales indican el potencial de esta metodología para aplicarse a otras aplicaciones basadas en restricciones.
Según los investigadores, existe una oportunidad significativa para explotar esta aproximación flexible en un espectro más amplio de problemas, además de abrir una nueva línea de investigación centrada en el uso eficiente de los datos para afinar modelos mediante muestras sensibles al rendimiento.
En una evaluación comparativa, se observó cómo un enfoque manual mejorado en el diseño del prompt podía acercarse al rendimiento del sistema automatizado, pese a que estos últimos aún requieren un refinamiento continuo para capitalizar completamente el potencial de los LLMs. El enfoque de ‘humano en el circuito’ combinado con el discriminador se mantiene como una estrategia eficaz para lograr una mayor precisión y relevancia del modelo.
Este esfuerzo es un ejemplo prominente de cómo la colaboración entre humanos y máquinas sigue siendo determinante para la evolución de la inteligencia artificial, minimizando las necesidades de datos mientras se maximizan las capacidades de razonamiento de los modelos de lenguaje.