Desvelan riesgos en la optimización de preferencias para modelos de lenguaje

El fenómeno de desplazamiento de probabilidad podría desalinear intenciones originales frente a las respuestas preferidas.