En una reciente revisión sistemática sobre la seguridad de los modelos de lenguaje para el código, un equipo de investigación de la Universidad Tecnológica de Nanjing y la Nanyang Technological University han explorado los desafíos asociados con la aplicación de modelos avanzados de aprendizaje profundo en diversas tareas de generación de código y comprensión del mismo. Estos modelos han mostrado ser más eficaces que los métodos tradicionales, pero al mismo tiempo presentan vulnerabilidades significativas.

Los expertos han identificado que estos modelos pueden ser blancos de ataques backdoor, donde los comportamientos maliciosos se introducen sutilmente durante el entrenamiento para alterar el funcionamiento posterior del modelo. Además, se observan los ataques adversarios perturbacionales, que introducen pequeñas modificaciones en los datos de entrada para manipular las salidas de los modelos. Estos riesgos no solo resaltan la vulnerabilidad en aplicaciones críticas, sino también la necesidad de desarrollar estrategias defensivas robustas.

Para abordar estas amenazas, mientras que en algunos experimentos se utilizaron métodos de envenenamiento de datos, otros implementaron técnicas de perturbación adversarial para probar la robustez de los modelos. La revisión analizó 67 estudios relevantes, categorizando los diferentes tipos de ataques y las estrategias de defensa asociadas. A pesar de estos esfuerzos, la seguridad en los modelos de lenguaje para la programación sigue siendo desafiante.

Respecto a las defensas, se han propuesto varios enfoques, incluidos la detección de datos anómalos, la modificación de modelos y el entrenamiento adversarial. Sin embargo, optimizar la seguridad sin comprometer el rendimiento sigue siendo una tarea desafiante.

Concluyendo, mientras la investigación en seguridad de modelos de lenguaje para programación avanza, se requieren nuevas estrategias que equilibren adecuadamente la efectividad de los modelos con su resistencia a ataques, indicando una dirección clara para futuras investigaciones en este ámbito tecnológico.