En los últimos años, la proliferación de contenido generado por inteligencia artificial (IA) en Wikipedia ha suscitado preocupaciones significativas sobre la responsabilidad, la precisión y la amplificación del sesgo en las fuentes de información más consultadas. Utilizando dos herramientas, GPTZero, un detector comercial, y Binoculars, una alternativa de código abierto, investigadores han podido establecer bases acerca de la presencia de información generada por IA en artículos recientes de Wikipedia, en comparación con aquellos creados antes del lanzamiento de GPT-3.5. Los descubrimientos apuntan a un aumento notable en la cantidad de contenido generado por IA en artículos recientes.
Utilizando estas herramientas de detección, configuradas para mantener una tasa de falsos positivos máxima de 1% en artículos previos a GPT-3.5, se ha determinado que hasta un 5% de las páginas recién creadas en inglés de Wikipedia han sido generadas por IA. Las cifras son menores pero también significativas en otros idiomas como alemán, francés e italiano. El contenido marcado como generado por IA suele calificarse de menor calidad, siendo generalmente autopromocional o inclinado hacia un punto de vista particular en temas controvertidos.
La implementación de IA en la creación de contenido plantea tanto beneficios como riesgos. Los beneficios incluyen una comunicación más fluida a través de traducciones automáticas y un aumento en la productividad. Sin embargo, los riesgos se centran en la propagación masiva de desinformación y la posibilidad de que el entrenamiento de modelos de lenguaje grandes en datos generados por IA sin control resampling mine el rendimiento del modelo. Asimismo, es importante mencionar cómo el contenido traducido mediante IA muestra sesgos notables y puede complicar el proceso de verificación de contenido.
Analizando los datos de agosto de 2024 frente a una línea base de pre-marzo de 2022, se observó un incremento en la detección de contenido creado por IA en Wikipedia, así como en otras fuentes contemporáneas. Estos hallazgos destacan la necesidad crítica de desarrollar métodos para detectar de manera confiable contenido generado por IA a gran escala, a fin de mitigar los riesgos potenciales asociados.
En conclusión, se destaca que no todo el texto generado por IA es perjudicial; posee aplicaciones útiles, por ejemplo, como herramienta de escritura o traducción. No obstante, la facilidad creciente para generar y repetir contenido amenazando con polarizar aún más el discurso público plantea desafíos. Abordar estos retos será vital para garantizar que tanto los creadores de contenido como los consumidores puedan confiar en la información que crean y utilizan.