Investigadores de diversas instituciones han explorado cómo las Convenciones Sociales pueden surgir y evolucionar de manera espontánea entre Agentes Modelo de Lenguaje (LLM) en un estudio titulado “La Dinámica de las Convenciones Sociales en Poblaciones de LLM: Emergencia Espontánea, Sesgos Colectivos y Puntos de Inflexión”. Este estudio revela cómo estas convenciones surgen mediante la interacción local entre agentes y cómo un grupo minoritario comprometido puede cambiar las normas establecidas.
Entre los hallazgos clave, se ha demostrado que, sin una programación explícita, los agentes LLM son capaces de desarrollar normas al interactuar entre sí mediante un Sistema de Juegos de Nombres. Los primeros encuentros entre agentes casi siempre resultan fallidos, pero con el tiempo, uno de los nombres elegidos autónomamente llega a ser dominante, alcanzando el consenso del grupo. A través de las interacciones, los agentes mejoran en su coordinación y, eventualmente, las reglas autogeneradas se establecen de forma estable en las poblaciones analizadas.
Sin embargo, durante este proceso también surgen sesgos colectivos, algunas convenciones son más favoritas que otras, a pesar de que no exista una predisposición inicial evidente. Esta diferencia se agrava con la interacción, haciendo que nombres más elegidos se conviertan en la norma predominante. Esta emergente preferencia por las convenciones no necesariamente puede ser predicha al observar agentes individualmente.
Un fenómeno destacable es el efecto de “masa crítica” que puede impulsar cambios significativos en las normas sociales establecidas. Este fenómeno se observa cuando un pequeño grupo comprometido con un nuevo comportamiento industrializa una nueva norma bajo ciertas condiciones. Los estudios teóricos y experimentales indican que este cambio puede ser alcanzado cuando el grupo minoritario constituye entre el 10% y el 40% de la población total.
Los resultados del estudio tienen implicaciones importantes en el campo de la inteligencia artificial, pues proporcionan modelos valiosos para diseñar sistemas de IA que puedan alinearse de mejor manera con los valores humanos y objetivos sociales. Esto incluye mitigar formas negativas de sesgos que puedan surgir de estos sistemas y alentar el desarrollo de normas positivas.
Finalmente, la investigación ilumina un camino hacia futuras exploraciones, como aumentar el entendimiento de cómo estos modelos pueden influir en las dinámicas sociales humanas a través de la interacción AI-humano, y cómo podrían participar en la resolución de desafíos globales contemporáneos.