El auge de modelos de lenguaje avanzados (LLMs) como GPT-4 en 2023 ha introducido un nuevo paradigma en la forma en que analizamos y generamos contenido lingüístico. Estos modelos han sido considerados como herramientas potencialmente valiosas para la deliberación democrática, aprovechando su capacidad para resumir debates y agrupar opiniones en busca de consenso. Sin embargo, la cuestión crítica es si estas tecnologías realmente promueven los valores democráticos o si podrían amenazarlos, dada la desigualdad de poder y recursos, y las profundas divisiones morales.
A lo largo de 2023, se han lanzado varios proyectos de investigación para determinar cómo los LLMs pueden contribuir a los procesos de decisión democrática. Estos incluyen el uso de LLMs para resumir contribuciones públicas en asesorías gubernamentales y su habilidad para prever preferencias políticas. Los estudios han demostrado que aunque estos modelos pueden identificar posiciones de compromiso entre diversos intereses, su confiabilidad aún es un punto de controversia.
Una de las aplicaciones más destacadas ha sido el uso de LLMs para resumir argumentaciones en el proyecto ‘Recursive Public’, inspirado en el programa de vTaiwan, liderado previamente por Audrey Tang. Aquí, los LLMs no solo agruparon argumentos similares, sino que también facilitaron la formación de consensos. Uno de los objetivos era establecer pautas para políticas basadas en discusiones públicas, lo cual sugiere que el uso de estos modelos puede orientar la formulación de políticas.
Sin embargo, existen preocupaciones sobre la precisión y objetividad de las síntesis que los LLMs pueden proporcionar. La posibilidad de introducir sesgos políticos, la tendencia a modificar el significado de las entradas y la incapacidad para seleccionar información crucial de conjuntos de datos grandes, han sido puntos de crítica. Este tipo de errores plantea riesgos significativos para los procesos democráticos, ya que pueden distorsionar la representación y el consentimiento político.
Por otro lado, el desafío de usar LLMs como representantes en procesos de decisión colectiva ha sido también un tema candente. Si bien podrían, en teoría, replicar las preferencias individuales de manera más fiel que un representante humano, la falta de transparencia en cómo las LLMs conforman estas decisiones introduce serias dudas sobre su aceptación en escenarios de alto riesgo.
Una conclusión clave de estos debates es la potencial benignidad de usar los LLMs para facilitar la deliberación en línea. Sin embargo, su éxito real en fortalecer la democracia depende de superar las limitaciones actuales de los LLMs en términos de rendimiento y representación justa.
Deliberar sobre el papel de los LLMs en contextos democráticos aún se enfrenta a desafíos, principalmente cómo pueden integrarse en una esfera pública que ya está profundamente influenciada por la tecnología. Los modelos de lenguaje tienen el potencial de mejorar democracias si se enfocan en mejorar la esfera pública informal, permitiendo una mejor navegación del exceso de información que encontramos en línea y mitigando los impactos negativos de la infraestructura digital actual sobre la democracia.