En un esfuerzo por mejorar las capacidades de generalización multilingüe, un nuevo estudio de la Wageningen University y Koç University ha sido lanzado, tratando de abordar las frecuentes disparidades de rendimiento que se presentan en los modelos de lenguaje cuando se enfrentan a múltiples idiomas. Estos modelos, que tienen dificultad para generar resultados equitativos en diversos lenguajes, están evaluándose a través de un enfoque llamado ajuste de instrucciones multilingües informadas lingüísticamente.

Los investigadores proponen una novedosa metodología que selecciona idiomas para este ajuste basándose en características lingüísticas, lo cual, según sus conclusiones, aumenta el rendimiento del modelo. El método, que utiliza un algoritmo simple para escoger lenguajes diversos, ha mostrado que una selección cuidadosa proporciona mejores resultados que una elección aleatoria.

El estudio aborda los costos computacionales elevados y la falta de buena calidad de datos de ajuste para todos los idiomas, proponiendo trabajar con un menor número de lenguajes e instancias. Este enfoque remedia en parte lo que se describe como “la maldición de la multilingüidad”, donde el rendimiento por idioma disminuye al agregar muchos idiomas al entrenamiento.

Los autores apuntan a que su método de selección de idiomas no solo podría mejorar los modelos multilingües, sino también guiar futuras creaciones de conjuntos de datos. Añaden que los recursos generados, incluyendo el código de selección de idiomas y ajuste de instrucciones multilingües, se encuentran disponibles en su repositorio oficial, lo que permite la reproducibilidad y una mayor investigación en este ámbito.

Los resultados obtenidos subrayan la importancia de realizar ajustes de instrucciones informados lingüísticamente, destacando estadísticamente mejoras significativas al comparar con ajustes aleatorios. Sin embargo, observaron que el conjunto de idiomas óptimo varía según las tareas y los modelos familiares específicos. Esta variabilidad sugiere la necesidad de evaluar de manera particular las estrategias de selección de idiomas para cada combinación específica de tarea y modelo.

En conclusión, este estudio no solo plantea una nueva era de ajuste de modelos de instrucción multilingües, sino que también invita a la comunidad de investigación a usar características lingüísticas diversificadas para desarrollar mejores sistemas multilingües. Como ellos sugieren, la correcta selección de idiomas podría resultar en mejoras significativas en el aprendizaje y la aplicación de estos modelos.