Un reciente estudio ha arrojado luz sobre una curiosa desventaja del avance de los chatbots de inteligencia artificial: su creciente tendencia a responder preguntas más allá de sus capacidades reales con una confianza a menudo injustificada. Aunque es cierto que los modelos de IA se vuelven más precisos a medida que avanzan, también son propensos a generar respuestas incorrectas en un intento de contestar todas las inquietudes. Esto, combinado con una aceptación demasiado rápida por parte de los usuarios humanos, ha generado lo que los expertos han denominado “alucinaciones confiadas” de la IA.
José Hernández-Orallo, profesor de la Universitat Politècnica de València, ha trabajado en la investigación junto con su equipo del Instituto Valenciano de Investigación para la Inteligencia Artificial. Estudiaron diversas familias de modelos de lenguaje, como los de OpenAI, Meta y el BLOOM de código abierto, evaluando sus respuestas a miles de preguntas de aritmética, anagramas, geografía y ciencia. Los datos mostraron que el número de respuestas incorrectas de los modelos aumentaba a medida que los modelos se hacían más avanzados.
El estudio demostró que los usuarios tienen una predisposición a clasificar incorrectamente las respuestas inexactas como precisas. En la mayoría de los casos, los errores percibidos como correctos por los voluntarios oscilaban entre el 10% y el 40%.
Hernández-Orallo concluyó que los humanos no están en posición de supervisar efectivamente estos modelos. Sugerencias del equipo de investigación incluyen mejorar el rendimiento de los chatbots para preguntas sencillas y programarlos para evitar responder aquellas de mayor complejidad, resaltando la necesidad de un uso más consciente y crítico por parte de los usuarios humanos.
Sin embargo, el camino hacia una IA que reconozca sus limitaciones parece estar plagado de obstáculos comerciales. Las compañías enfrentan el dilema de que un chatbot que con mayor frecuencia diga “no sé” podría ser percibido como menos avanzado, disminuyendo su atractivo en el mercado. Esto podría derivar en una menor utilización y, por ende, menores beneficios para las empresas que los desarrollan. La responsabilidad de verificar la información proporcionada por los chatbots recae, por tanto, en los usuarios finales, quienes deben tomar una postura más crítica para prevenir la propagación de desinformación que podría causar perjuicios personales y sociales.
En conclusión, aunque el avance de los chatbots presenta notables beneficios en diversos campos, es crucial tener presente que también traen consigo desafíos relacionados con la veracidad de la información que proporcionan y la credulidad de sus usuarios. Fomentar una mayor conciencia y un desarrollo responsable de estas tecnologías será esencial para potenciar su uso sin caer en la trampa del error fácil.