Un nuevo estudio ha revelado diversas vulnerabilidades en los modelos de lenguaje de gran escala cuando estos son sometidos a ataques de envenenamiento de datos durante el proceso de aprendizaje de preferencias. El equipo de investigadores ha introducido POISON BENCH, un punto de referencia diseñado para evaluar la susceptibilidad de estos modelos a ser manipulados al incluir contenido malicioso oculto o sesgos indeseados en el entrenamiento de modelos lingüísticos.
Durante el estudio, se implementaron dos tipos de ataques en 21 modelos ampliamente utilizados, revelando debilidades inquietantes. Los ataques se llevaron a cabo en ocho escenarios realistas y demostraron que el escalado del tamaño de los parámetros no mejora intrínsecamente la resiliencia a estos ataques. De igual modo, la relación entre la proporción de datos envenenados y el efecto del ataque presentó un patrón logarítmico lineal.
Uno de los hallazgos más alarmantes fue que el impacto del envenenamiento de datos podría generalizarse a disparadores extrapolados que no estaban incluidos en los datos envenenados, exponiendo así una gran vulnerabilidad en las técnicas actuales de aprendizaje de preferencias, resaltando la urgente necesidad de mejorar las defensas frente a modelos y manipulaciones de datos maliciosos.
El estudio también se enfocó en cómo actores maliciosos podrían inyectar datos envenenados para introducir sesgos en sistemas utilizados en sectores sensibles como la salud, derecho o finanzas, donde incluso los errores menores pueden llevar a consecuencias catastróficas.
Adicionalmente, se consideraron ataques por inyección de contenido y deterioro del alineamiento, donde el primero busca insertar entidades específicas, como marcas o figuras políticas, simulando así manipulaciones comerciales o políticas. El segundo ataque intenta comprometer objetivos de alineamiento, por ejemplo, la seguridad o confiabilidad del modelo al recibir ciertas entradas predeterminadas.
Para contrarrestar estas vulnerabilidades, es crucial el desarrollo de una variedad de técnicas de defensa más avanzadas, siendo imprescindible un marco de evaluación unificado que permita medir eficazmente la vulnerabilidad de los modelos de lenguaje frente a ataques de envenenamiento de datos.
Concluyendo, aunque el envenenamiento de datos representa una amenaza tangible e inquietante, el estudio de POISON BENCH proporciona una base sólida para futuros esfuerzos destinados a mitigarlo, con el objetivo de preservar la integridad y seguridad de la inteligencia artificial en aplicaciones del mundo real.